STKIP ”Tapanuli Selatan” Padangsidimpuan merupakan perguruan tinggi yang legal dibawah naungan Yayasan Al-Iman Padangsidimpuan yang diketuai oleh Bapak H. Syahrul Hadi Lubis dan telah berdiri berdasarkan akta notaris pada tanggal 31 Agustus 1981. Pada mulanya embrio dari STKIP ”Tapanuli Selatan” Padangsidimpuan diusulkan dengan nama IKIP Nahdatul Ulama (NU) Padangsidimpuan. Kemudian usulannya berubah lagi dengan nama STKIP Al-Iman Padangsidimpuan. Akhirnya, berdasarkan Surat Keputusan Nomor: 041/PD/Kop.I/82 tanggal 30 Desember 1982 tentang pemberian izin operasional, namanya berubah lagi menjadi STKIP ”Tapanuli Selatan” Padangsidimpuan dibawah naungan Yayasan Al-Iman Padangsidimpuan yang pada waktu itu koordinator Kopertis Wilayah I dijabat oleh Bapak A.P. Parlindungan, S,H. Sebelum izin opersional terbit, baru dua jurusan yang diusulkan, yakni: Jurusan IPS dan Administrasi Pendidikan. Namun, setelah terbitnya izin operasional jurusan berkembang menjadi empat, yakni: 1) Ilmu Pendidikan dengan Program Studi Administrasi Pendidikan, 2) Ilmu Pengetahuan Sosial (IPS) dengan Program Studi Pendidikan Tata Niaga, Pendidikan Dunia Usaha Koperasi, Pendidikan Sejarah, dan Pendidikan Moral Pancasila (PMP), 3) Pendidikan Bahasa dan Seni dengan Program Studi Pendidikan Bahasa dan Sastra Indonesia, dan Pendidikan Bahasa Inggris, dan 4) Pendidikan Matematika dan Ilmu Pengetahuan Alam (MIPA) dengan program Studi Pendidikan Matematika.

Semua program studi tersebut memperoleh status terdaftar pada tahun 1984 dari Menteri Pendidikan dan Kebudayaan dengan Nomor: 0356/0/1984 Tanggal 18 Agustus 1984 ditandatangani oleh Sekjen Prof. Dr. Nugroho Notosusanto. Selanjutnya, pada tahun 1990 STKIP “Tapanuli Selatan” Padangsidimpuan memperoleh status diakui pada semua program studi dari Menteri Pendidikan dan Kebudayaan dengan Nomor 0284/O/1990. Pada tahun 1998, semua program studi telah diakreditasi dan pada tahun 2011 memperoleh reakreditasi dari BAN-PT. Selanjutnya, perubahan pada program studi IPS terjadi pada tahun 2007, dimana Program Studi Pendidikan Tata Niaga dan Pendidikan Dunia Usaha Koperasi berubah menjadi Pendidikan Ekonomi dan Konsentrasi Pendidikan Akuntansi pada tanggal 1 Nopember 2007 sesuai dengan SK No: 3450/D/T/2007. Pada Tahun Akademik 2008/2009, Jurusan MIPA bertambah dua Program Studi, yaitu: Pendidikan Biologi dan Pendidikan Fisika dan kedua Program Studi ini sudah terakriditasi oleh BAN-PT. Untuk Program Studi Fisika diagriditasi pada tahun 2013 dengan No. 174/SK/BAN-PT/Ak-XVI/S/VIII/2013 dan untuk Program Studi Biologi pada tahun 2014 dengan No. 462/SK/BAN-PT/Akreot/S/XII/2014. Sejak berdirinya STKIP “Tapanuli Selatan” Padangsidimpuan, sudah empat orang yang telah menjabat sebagai ketua. Yang pertama Bapak Drs. Yunirman Noerman, kedua Bapak Dr. H. Ali Pada, M.Pd, ketiga Bapak Mara Amin Harahap, S.Pd., M.Hum dan keempat hingga sekarang yaitu Bapak Drs. H. Mhd. Nau Ritonga, MM.