Karni lahir dari orang tua yang berasal dari [[Suku Minang|Minangkabau]], Ilyas Sutan Nagari (ayah) dan Syamsinar (ibu). Kakeknya dari pihak ibu yang bernama Datuk Basa (''Angku Datuak''), merupakan seorang pedagang kain partai besar dan salah satu pendiri Diniyah School. Semasa SMPremaja Karni bersekolah di SMPNSMP Negeri 5 Padang. Setelah menamatkan SMEA diNegeri 1 [[Kota Padang|Padang]]<ref>https://books.google.co.id/books?id=-aRxAAAAMAAJ&q=karni+ilyas+smea&dq=karni+ilyas+smea&hl=id&newbks=1&newbks_redir=0&source=gb_mobile_search&ovdme=1&sa=X&ved=2ahUKEwii48fJp5f-AhUc-TgGHTSsBLYQ6AF6BAgGEAM#karni%20ilyas%20smea</ref> (kini [[SMK Negeri 2 Padang]]) ia melanjutkan pendidikannya di [[Fakultas Hukum Universitas Indonesia]] dan meraih gelar [[Sarjana Hukum]] pada 1984.<ref>Fenty Effendy, Karni Ilyas Lahir untuk Berita, Kompas, 2012</ref><ref>https://books.google.co.id/books?id=ogplAAAAMAAJ&q=karni+ilyas+Universitas+Indonesia+1984&dq=karni+ilyas+Universitas+Indonesia+1984&hl=id&newbks=1&newbks_redir=0&source=gb_mobile_search&ovdme=1&sa=X&ved=2ahUKEwjWzbjlppf-AhV96jgGHbphDHkQ6AF6BAgCEAM#karni%20ilyas%20Universitas%20Indonesia%201984</ref>
