MTs Ma’arif NU 1 Cilongok didirikan pada tanggal 1 Februari 1970 atas prakarsa dari PAC GP Ansor Cilongok dengan dukungan dari pimpinan ranting se-Kecamatan Cilongok. Pertama kali didirikan MTs Ma’arif NU 1 Cilongok bernama PGA NU 6 Tahun yang berkedudukan di Ibukota Kecamatan Cilongok.
Pada Tahun pertama, semua tenaga pengajar diambilkan dari tenaga sukarela yaitu guru-guru MI, pengurus, dan tokoh-tokoh NU Kecamatan Cilongok maupun luar Kecamatan Cilongok serta ditambah pengajar luar biasa yaitu :
1. Hadrotus Syeikh KH. Bajuri (Alm) dari Rejasari Purwokerto
2. Hadrotus Syeikh KH. Mokhammad Nukh Al-Hafidh (Alm) dari Pageraji Cilongok
Sedangkan jajaran pimpinannya adalah :
1. Direktur Utama : K. Syamsul Ma’arif (Alm) dari Langgongsari
2. Wakil Direktur : K. Abdullah Syukri (Alm) dari Langgongsari
3. Sekretaris : M. Kaafi dari Batuanten
4. Ka. Bidang Pendidikan : K. Abdul Muhalib dari Pliken Langgongsari
Menjelang akhir 1970 dengan berbagai pertimbangan, pengurus mengganti nama PGA NU 6 Tahun menjadi PGA 6 Tahun Al-Hidayah. Pada tahun 1971 dirubah lagi namanya menjadi PGA 4 Tahun Al-Hidayah. Pada tahun itu juga karena adanya instruksi dari Menteri Agama maka nama PGA 4 Tahun Al-Hidayah dirubah menjadi MMP/PGA Al-Hidayah.
Beberapa bulan kemudian, seiring dengan dicabutnya Instruksi Menteri Agama, maka MMP/PGA Al-Hidayah dirubah menjadi PGA 4 Tahun Ma’arif. Kemudian pada bulan Januari 1978, secara resmi PGA 4 tahun Ma’arif dirubah menjadi MTs AI Ma’arif (Madrasah Tsanawiyah Agama Islam Ma’arif).
Sesuai dengan perkembangan jaman, maka MTs AI Ma’arif dikenal dengan MTs Ma’arif. Dan setelah Khittah NU Tahun1962 yang dicetuskan di Situbondo pada tahun 1983, NU mengadakan pembenahan lembaga pendidikan yang bernaung di bawah Lembaga Pendidikan Ma’arif, maka nama MTs Ma’arif Cilongok berubah menjadi MTs Ma’arif NU 1 Cilongok.
Pada tahun 1995, MTs Ma’arif NU 1 Cilongok membuka kelas filial di Desa Penembangan. Dan pada tahun 1999 secara resmi kelas filial tersebut berdiri sendiri menjadi MTs Ma’arif NU 2 Cilongok.
