Rahmat menamatkan SD di [[LubukPuncak BarumunSorik Marapi, PadangMandailing LawasNatal|LubukPuncak Barumun]], [[Kabupaten Padang Lawas|PadangSorik LawasMarapi]] dan SMP di [[Kotanopan, Mandailing Natal|Kotanopan]], [[Kabupaten Mandailing Natal|Mandailing Natal]].<ref>https://dprd.sumbarprov.go.id/media/files/2020/07/MIMBAR-2019-2(HQ).pdf</ref> Ia menyelesaikan SMA-nya di [[Koto XI Tarusan, Pesisir Selatan]] dan merampungkan kuliahnya di [[Universitas Andalas|Jurusan Farmasi, Universitas Andalas]] (Unand), Padang.<ref>{{Cite news|url=http://alumnifarmasiunand.com/susunan-kepengurusan/|title=Susunan Kepengurusan|date=2015-05-18|newspaper=IKA FARMASI UNAND|language=en-US|access-date=2017-06-22|archive-date=2017-07-24|archive-url=https://web.archive.org/web/20170724150109/http://alumnifarmasiunand.com/susunan-kepengurusan/|dead-url=yes}}</ref><ref>https://dprd.sumbarprov.go.id/home/anggota/0/0/60</ref>
Semasa mahasiswa, ia dikenal sebagai aktivis kampus dan meraih predikat "mahasiswa berprestasi". Ia juga menjadi pemimpin Asrama Mahasiswa Unand dari tahun 2007 hingga 2010.<ref>{{Cite web|date=2020-08-13|title=Dukungan Mengalir ke Balon Bupati Pasaman H. Rahmat Saleh Nasution|url=https://marapipost.com/index.php/2020/08/13/dukungan-mengalir-ke-balon-bupati-pasaman-h-rahmat-saleh-nsution/|website=Marapi Post|language=id-ID|access-date=2021-03-24}}</ref>
