Mohammad Yamin dilahirkan di [[Talawi, Sawahlunto|Talawi]], [[Kota Sawahlunto|Sawahlunto]] pada 23 Agustus 1903. Ia merupakan putra dari pasangan Usman Baginda Khatib dan Siti Saadah yang masing-masing berasal dari Sawahlunto dan [[Kota Padang Panjang|Padang Panjang]]. Ayahnya memiliki enam belas anak dari lima istri, yang hampir keseluruhannya kelak menjadi intelektual yang berpengaruh. Saudara-saudara Yamin antara lain : Muhammad Yaman, seorang pendidik; [[Adinegoro|Djamaluddin Adinegoro]], seorang wartawan terkemuka; dan Ramana Usman, pelopor korps diplomatik Indonesia. Selain itu sepupunya, [[Mohammad Amir]], juga merupakan tokoh pergerakan [[kemerdekaan Indonesia]].
Yamin mendapatkan pendidikan dasarnya di ''[[Hollandsch-Inlandsche School]]'' (HIS) [[Palembang]], kemudian melanjutkannya ke ''[[Algemeene Middelbare School]]'' (AMS) [[Kota Yogyakarta|Yogyakarta]]. Di AMS Yogyakarta, ia mulai mempelajari sejarah purbakala dan berbagai bahasa seperti [[bahasa Yunani|Yunani]], [[bahasa Latin|Latin]], dan Kaei. Namun setelah tamat, niat untuk melanjutkan pendidikan ke [[Leiden]], [[Belanda]] harus diurungnya dikarenakan ayahnya meninggal dunia. Ia kemudian menjalani kuliah di ''[[Rechtshoogeschool te Batavia]]'' (Sekolah Tinggi Hukum di Jakarta, yang kelak menjadi [[Fakultas Hukum Universitas Indonesia]]), dan berhasil memperoleh gelar [[Meester in de Rechten]] (Sarjana Hukum) pada tahun 1932.
