Gagasan untuk membangun sebuah masjid di Malmö sudah dimulai pada awal tahun 1960-an, tapitetapi [[Pemintakatan|zonasi]] untuk pembangunan baru dimulai pada akhir tahun 1970-an. Konstruksi dimulai pada bulan April 1983 dengan inisiator proyek Bejzat Becirov, pada tahun 2013 beliau masih menjadi [[Pejabat Eksekutif Tertinggi|Kepala pengurus]]. [[Malmö Municipality|Kotamadya Malmö]] membantu dengan mewakafkan sebidang tanah seluas 32.000 [[meter persegi]]. Setelah beberapa prosedur standar seperti [[Excavation (archaeology)|penggalian]] arkeologi, konstruksi dimulai pada bulan April 1983. Masjid ini diresmikan pada tanggal 20 April 1984 dan [[Salat Jumat|shalat jumat]] pertamadiadakan hari itu pula.<ref name="ICMalmoHistoria">{{cite web|url=http://icmalmo.se/?page_id=44|title=Historik – tiden, platsen, tanken och framtiden|date=|publisher=Islamic Center|accessdate=14 November 2013}}</ref>
