Lahir di [[Kairouan]],{{sfn|Daftary|2006}} di wilayah yang sekarang disebut [[Tunisia]], an-Nu'man berpindah agama menjadi penganut [[Ismailiyah|Isma'ilisme]] dan memulai kariernya di [[Ifriqiyah]] (sekarang Tunisia, [[Libya]] barat dan [[Aljazair]] timur) di bawah [[Daftar Khalifah Fathimiyah|khalifah Fathimiyah]] pertama, [[Abdullah al-Mahdi Billah]] (memerintah 909-934 M/297-322 H), dan dengan cepat naik pangkat menjadi hakim (''[[kadi|qadi]]'') paling terkemuka di negara Fathimiyah.
Ayahnya, Muhammad bin Mansur (w. 351 H/923 M), telah dilatih sebagai seorang ahli hukum [[Sunni]] [[Mazhab Maliki]] di [[Kairouan|Qayrawan]]. Beberapa orang berpendapat bahwa ayah al-Qadi an-Nu'man masuk Islam [[Syiah]] sebelum berdirinya [[Kekhalifahan Fathimiyah]], yang menyatakan bahwa al-Qadi alan-Nu'man dibesarkan sebagai seorang Isma'ili. Namun, [[Ibnu Taghribirdi]] secara alternatif berpendapat bahwa al-Qadi alan-Nu'man adalah seorang [[mazhab Hanafi|Hanafi]] sebelum ia sendiri masuk Islam Syiah. Hal ini sebagian besar telah ditolak karena asumsi bahwa Ibnu Taghribirdi mendasarkan hal ini pada gagasan yang tampaknya keliru bahwa mazhab Hanafi telah dominan di [[Afrika Utara]] sampai [[al-Mu'izz bin Badis]] memaksakan mazhab Maliki. Namun, pernyataan Ibnu Taghribirdi mungkin juga didasarkan pada fakta bahwa patronimik al-Qadi an-Nu'man, "Abu Hanifah," cocok dengan [[Abu Hanifah|nama pendiri mazhab Hanafi]]. Ini mungkin mendukung gagasan bahwa ayahnya, Muhammad, mungkin telah masuk mazhab Hanafi sebelum masuk ke mazhab Syiah Ismailiyah. Terlepas dari itu, al-Qadi an-Nu'mani tentu saja seorang Ismailiyah ketika ia bekerja di Fathimiyah di usia muda.<ref>{{cite book |last=al-Qāḍī al-Nuʿmān |first= |title=Disagreements of the Jurists: A Manual of Islamic Legal Theory |publisher=[[New York University Press]] |year=2015 |isbn=9780814763926 |location=New York |pages=ix-x |language=English |translator-last=Steward |translator-first=Devin}}</ref>
Selama hidupnya, al-Qadi an-Nu'man melayani empat khalifah Fatimiyah:{{sfn|Daftary|1990|p=250}}
