Menurut riwayatcerita Muslim, mata air tersebut ditemukan pertama kali oleh istri [[SitiIbrahim]], [[Hajar]] setelah berlari-lari bolak-balik antara [[bukit Shafa]] dengan [[bukit Marwah]], atas petunjuksetelah [[Malaikat Jibril]], tatkala [[Nabi Ismail]], putera Hajar, mengalami kehausan di tengah [[padang pasir]], sedangkan persediaan [[air]] tidak ada kemuliaan lewat air Zamzam melalui perintah Tuhan (''[[Allah Ta(Islam)|Allah]]''ala). Maka Allah mengutus [[Malaikat Jibril]]. Sesaat setelah Jibril menghentak kaki - yang kemudian menjadi tempat Zamzam itu, ibunda Nabi IsmailHajar menampung air yang mengalir dengan menggali tanah di sekitar keluar airnya ituair agar air itu taktidak hilang ketika dia ambilmengambil kantong minumnya.
RasulullahDalam melanjutkansebuah hadis, [[Nabi Islam]] [[Muhammad]] berkomentar, "Andai ibu Ismail tidak menampung air itu, tentu sekarang sumur Zamzam sudah jadi mata air yang mengalir." JibrilMuhammad kemudian menceritakan bahwa lokasi itu kelak adalah Baitullah yang akan dibangun Ibrahim AS dan Ismail AS.<ref>al-Makhzumi, ''al-Jami' al-Lathif''.</ref> Peristiwa itu terjadi 1910 SM, 2572 tahun sebelum kelahiran Rasulullah, atau sekitar 4000 tahun yang lalu.<ref name=najjar>An-Najjar (2013), hal.114-120.</ref>