[[Masjid]] ini dibangun pada tahun 1632 Miladiyah/Masehi atau tahun 1052 [[Hijriyah]], tepatnya pada masa pemerintahan [[Mustain Billah dari Banjar|Sultan Mustain Billah]] ([[1650]]-[[1678]] M), raja keempat dari [[Kesultanan Banjarmasin]]. Nama '''Kiai Gede''' untuk masjid ini diambil dari nama seorang ulama yang telah berjasa besar dalam menyebarkan ajaran Islam di Pulau [[Kalimantan]], khususnya di wilayah [[Kotawaringin]]. Ulama tersebut adalah Kiai Gede, seorang ulama asal Jawa yang diutus oleh [[Kesultanan Demak]] untuk menyebarkan ajaran Islam di [[Pulau Kalimantan]]. Kedatangan Kiai Gede tersebut ternyata disambut baik oleh Sultan Mustainubillah. Oleh sang Sultan, Kiai Gede kemudian ditugaskan menyebarkan Islam di wilayah Kotawaringin, sekaligus membawa misi untuk merintis kesultanan baru di wilayah ini. Berkat jasa-jasanya yang besar dalam menyebarkan Islam dan membangun wilayah Kotawaringin, Sultan Mustainubillah kemudian menganugerahi jabatan kepada Kiai Gede sebagai Adipati di Kotawaringin dengan pangkat ''Patih Hamengkubumi'' dan bergelar ''Adipati Gede Ing Kotawaringin''. Namun, hadiah yang paling berharga dari sang Sultan bagi Kiai Gede adalah dibangunnya sebuah masjid yang kelak bukan sekadar sebagai tempat beribadah, melainkan juga sebagai pusat kegiatan-kegiatan kemasyarakatan bagi Kiai Gede dan para pengikutnya. Bersama para pengikutnya, yang waktu itu hanya berjumlah 40 orang, Kiai Gede kemudian membangun Kotawaringin dari hutan belantara menjadi sebuah kawasan permukiman yang cukup maju. Kalaupun wilayah Kotawaringin sekarang ini menjadi salah satu kota yang terbilang maju di [[Kalimantan]], hal itu tidak dapat dipisahkan dari jasa besar Kiai Gede dan para pengikutnya.
Saat ini, Masjid Kiai Gede yang sudah berumur ratusan tahun tersebut masih berdiri kokoh dan terawat dengan baik. Hal ini disebabkan oleh keseriusan masyarakat [[Kotawaringin Barat]] dalam merawat dan memfungsikan masjid yang dianggap menjadi tonggak sejarah perkembangan Islam di wilayah ini. Bagi masyarakat Kotawaringin Barat, Masjid Kiai Gede tidak hanya berfungsi sebagai tempat ibadah saja, tetapi juga sebagai pusat kegiatan-kegiatan sosial-kemasyarakatan, sebagaimana Kiai Gede dan para pengikutnya memfungsikan masjid ini pada masa lalu.
