Ali Taher lahir pada 9 Februari 1961 di sebuah perkampungan nelayan bernama [[Lamakera]] yang terletak di [[Pulau Solor]], [[Nusa Tenggara Timur]] (NTT). Pada 1970-an, Ali nekat merantau ke [[Jakarta]] untuk bisa bertahan hidup dan meneruskan sekolahnya, di Jakarta ia pernah menjadi penjaga sekolah [[Muhammadiyah]] di daerah [[Jakarta Barat]], dari situlah ia mulai berkenalan dan aktif di organisasi Muhammadiyah.<ref>{{Cite web|url=http://republika.co.id/berita/qmcqqk385/ali-taher-parasong-abang-dari-kampung-nelayan-lamakera-part1|title=Ali Taher Parasong: Abang dari Kampung Nelayan Lamakera|date=3 Januari 2021|access-date=4 Januari 2021|website=Republika|last=Subarkah|first=Muhammad}}</ref>
Pasca menyelesaikan sekolah menengah atasnya di [[SMA Negeri 2616 Jakarta]] pada 1981,<ref name=DCT /> Ali melanjutkan pendidikannya ke jenjang perguruan tinggi. Ia pun akhirnya mendapatkan gelar [[Sarjana Hukum]] dari [[Universitas Muhammadiyah Jakarta]] (UMJ) pada 1987. Setelah lulus dari UMJ, Ali menjadi [[dosen]] di sana dan di berbagai macam kampus seperti [[Universitas Muhammadiyah Tangerang|STIE Muhammadiyah Tangerang]] dan STIKES YATSI Tangerang.<ref name=cv>{{Cite web|url=http://www.dpr.go.id/blog/biografi/id/1547|access-date=4 Januari 2021|title=Biografi Singkat Dr. M. Ali Taher, SH., M.HUM|archive-url=http://web.archive.org/web/20210103180417/http://www.dpr.go.id/blog/biografi/id/1547|archive-date=3 Januari 2021}}</ref>
Gelar magister ia dapatkan dari [[Universitas TarumanegaraTarumanagara]] pada tahun 2002, juga dari fakultas hukum.<ref name=DCT>[http://dct.kpu.go.id/images/dokumen/DPR/3603/08/01.pdf Daftar Riwayat Hidup Bakal Calon Anggota DPR | M. Ali Taher]</ref> Pada 2012, Ali menyelesaikan kuliah S3 di [[Universitas Padjadjaran]] dan berhak menyandang gelar [[doktor]].<ref name=cv />