Umur pondok PSM sebenarnya sudah cukup tua, yakni di penghujung tahun 1800an. Pondok pesantren ini mulanya dirintis oleh Kyai Hasan Ulama dan dibantu oleh rekannya, Kyai Muhammad Ilyas pada tahun 1303 Hijriyah, atau sekitar tahun 1880. Mereka berdua adalah tokoh pemuka agama sekaligus ulama sufiyah yang sangat disegani oleh masyarakat di daerahnya pada waktu itu, yakni di Takeran. Sebelumnya, Kyai Hasan Ulama adalah pengikut setia Pangeran Diponegoro yang ketika itu terjadi peperangan melawan pasukan VOC. Kyai Khalifah (pangeran Kertapati), yakni ayahanda dari kyai Hasan Ulama turut dalam peperangan tersebut. Sedangkan beliau sendiri melarikan diri ke arah timur menuju daerah yang bernama Takeran. Sebelum tiba di Takeran, mereka sempat membangun semacam langgar di daerah Tegalrejo Ponorogo. Sesampainya di Takeran, mereka membangun sebuah pondok yang diberi nama pondok Takeran, yakni cikal bakal pondok PSM. Model pendidikan pondok Takeran masih bersifat tradisional murni (bandongan, sorogan dan wetonan) dengan Kyai Hasan Ulama selaku mursyid (gurunya) dan berbasis tarekat Syathariyah. Beliau memimpin pondok Takeran hingga akhir hayatnya pada tahun 1920. Setelah Kyai Hasan Ulama wafat, maka kepemimpinan pondok diteruskan olah anaknya, Kyai Imam Muttaqien. Model pendidikannya pun masih bersifat tradisional murni sebagaimana model pendidikan di masa Kyai Hasan Ulama. Beliau memimpin pondok hingga tahun 1936. Setelah Kyai Imam Muttaqien wafat, kemudian diteruskan oleh anaknya, yaitu Kyai Imam Mursyid Muttaqien. Pada masa kepemimpinan beliaulah terjadi pembaharuan dan modernisasi, yang bermula bernama pondok Takeran berganti menjadi Pondok Pesantren Sabilil Muttaqien (PSM) pada tanggal 16 September 1943. Model pendidikannya pun sudah selangkah menuju ke arah modernisasi, yakni ditandainya dengan munculnya lembaga pendidikan formal seperti sekolah-sekolah dan madrasah-madrasah. Walaupun begitu, PSM masih tetap memegang tradisi tarekat syathariyah sebagaimana halnya Pondok Takeran. Sehingga Pondok ini awalnya bernama Pondok Takeran kemudian berganti nama menjadi Pondok PSM hingga saat ini.
