Pada masa [[Rasulullah]] berusia 30 tahun, pada saat itu beliau belum diangkat menjadi rasul, bangunan ini direnovasi kembali akibat [[banjir]] yang melanda Kota [[Mekkah]] pada saat itu. Ketika sampai pada peletakan Hajar Aswad, [[Suku Quraisy]] berselisih, siapa yang akan menaruhnya. Perselisihan ini nyaris menimbulkan pertumpahan darah, akan tetapi dapat diselesaikan dengan kesepakatan menunjuk seorang pengadil [[hakim]] yang memutuskan. Pilihan tersebut, ternyata jatuh pada Nabi Muhammad Saw.
Rasulullah Saw dengan bijak berkata pada mereka, “Berikan padaku sebuah kain”. Lalu didatangkanlah kain kepadanya, kemudian beliau mengambil hajar Aswad dan menaruhnya dalam kain itu dengan tangannya. Lalu beliau berkata, ” Hendaklah setiap qabilah memegang sisi-sisi kain ini, kemudian angkatlah bersama-sama!”. Mereka lalu melakukannya dan ketika telah sampai di tempatnya, Rasulullah menaruhnya sendiri dengan tangannya kemudian dibangunlah.