Selama berabad-abad, yang dimaksud dengan Masjid Al-Aqsha adalah keseluruhan kompleks tersebut, yang dianggap sebagai suatu wilayah yang suci. Perubahan penyebutan kemudian terjadi pada masa pemerintahan [[Kesultanan Utsmaniyah]], di mana wilayah kompleks secara keseluruhan disebut sebagai ''[[Al-Haram asy-Syarif]]''; sedangkan bangunan yang terletak di bagian selatan disebut sebagai Al-Jami' al-Aqsha, yaitu tempat [[Umar bin Khattab|Umar bin Khaththab]] pertama kali mendirikan masjid di antara reruntuhan.<ref name="Necipoglup85">{{cite book|title=Muqarnas: An Annual on the Visual Culture of the Islamic World|first1=Sabri|last1=Jarrar|editor=Gülru Necipoğlu|edition=Ilustrasi, anotasi|publisher=BRILL|year=1998|isbn=9004110844, 9789004110847|url=http://books.google.com/?id=FG6ZlkRjD2IC&pg=PA85&dq=aqsa+haram+sharif&cd=6#v=onepage&q=aqsa%20haram%20sharif|page=85}}</ref>
{{further|Masjid Umar (Yerusalem)}}
Al-Jami' al-Aqsha jugaberbeda sering dianggap sebagaidengan [[Masjid Umar (Yerusalem)|Masjid Umar]], karena menjadi tempat shalat Umar saat mengunjungi Yerusalem. Masjid Umar sendiri sebenarnyayaitu adalah namasebuah masjid yang dibangun pada masa kekuasaan Dinasti Ayyubiyah pada abad ke-12, untuk mengenang pengambil-alihan kepemimpinan Yerusalem ke tanganoleh umat Islam,.<ref>{{cite book|url=https://books.google.com/books?id=cSuErBFmykQC&pg=PA52&lpg=PA52&dq=%E2%80%9COmar+prayed+here%E2%80%9D&source=bl&ots=sZakg-NekJ&sig=eT_6jUnD09R5pcWWJmGAvE-TzYI&hl=en&sa=X&ved=0ahUKEwjWmuf7qqLNAhVEbRQKHTcZApwQ6AEINzAH#v=snippet&q=%E2%80%9CC7%2C%20however%2C%20the%20entrance%20was%20on%20the%20east%E2%80%9D&f=false|title=The Holy Land: An Oxford Archaeological Guide from Earliest Times to 1700|author=Jerome Murphy-O’Connor|publisher=Oxford University Press|year=2008|isbn=978-0-19-923666-4|series=Oxford Archaeological Guides|location=Oxford|page=62|quote=|accessdate=20 June 2016}}</ref> bukanDalam riwayat diceritakan bahwa saat pengambil-alihan tersebut Umar bin Khattab diundang untuk beribadah oleh Pendeta Sophronius dimaksudkan untuk menandai tempat Umar shalat karena tempat shalat Umar adalah di Masjid Al Aqsha bagian selatan yang sekarang menjadi Jami' Al Aqsha.<ref name="Necipoglup85" /><ref name=":0">Mosaad, Mohamed. [http://www.godsholymountain.org/papers/bayt.pdf Bayt al-Maqdis: An Islamic Perspective] pp.3–8</ref><ref name=":1">{{cite book|title=Jerusalem|author=F. E. Peters|publisher=Princeton University Press|year=1985|pages=186–192}}</ref> Masjid Umar berada di sebelah selatan [[Gereja Makam Kudus]], sedangkan Masjid Al Aqsha (termasuk di dalamnya Jami' Al Aqsha) berada di sebelah timur gereja.
