Masyarakat Mandailing meyakini bahwa asal usul marga ini berasal dari [[KerajaanKabupaten Batu Bara|Batubara]], di[[Kabupaten pantai timur SumateraAsahan|Asahan]].<ref>{{Cite web|last=Siregar|first=Rusman|date=27 November 2017|title=Asal Asul Mandailing, Sejarah dan Kebesaran Marga-marga|url=https://daerah.sindonews.com/berita/1260799/29/asal-asul-mandailing-sejarah-dan-kebesaran-marga-marga|website=Sindo News|language=id|access-date=4 Mei 2024}}</ref> Marga Batubaraini dipercaya adalahsebagai kelompok masyarakat yang bermigrasi dari [[Kerajaan Batu Bara]] di [[Keresidenan Sumatra Timur|Sumatera Timur]]. Kelompok ini dipimpin oleh dua orang bersaudara, yaitu Parmato Sopiak dan Datuk Bitcu Rayo. Keduanya bersama rombongan berangkat dari Batu Bara menuju kawasan [[Barumun, Padang Lawas]]. Di tempat itulah mereka meneroka dan mendirikan kampung bernama Binado, dimana kemudian keturunannya berkembang menjadi marga Batubara.<ref>Z. Pangaduan Lubis, Asal Usul Marga-marga di Mandailing : Lubis, Nasution, Batubara, Rangkuti, Parinduri, Daulae, Matondang, Pulungan, 1986</ref> Beberapa masa kemudian, dua putera Parmato Sopiak yang bernama Si Lai dan Si Tondang bersama pengikutnya pindah ke Mandailing Godang, dan mendirikan kampung bernama Pintu Padang. Disitulah keturunan mereka berkembang dan membentuk marga Daulae dan Matondang. Sedangkan Datuk Bitcu Rayo memiliki putra bernama Gara, yang kemudian berpindah ke [[Sipirok, Tapanuli Selatan|Sipirok]].
