Di Museum Nasional Indonesia di Jakarta disimpan sebuah batu besar yang awalnya ditanam di pantai Sunda Kelapa. Batu berpahatkan tanda salib bertahunkan 1522 ini adalah peringatan hubungan antara pelayaran Portugis dan kerajaan Pajajaran. Ini adalah tanda awal hadirnya Katolik di Jakarta kini.
Kemudian saat VOC berkuasa, 1619 hingga 1792, semua kegiatan Katolik dilarang, dan para imam Katolik juga dilarang untuk berkarya di wilayah kekuasaan VOC di Batavia, bahkan seorang Jesuit Egidius d'Abreu, S.J. dibunuh pada tahun 1624. Kegiatan Katolik hanya diijinkan di luar tembok Batavia bagi orang-orang keturunan Portugis dengan didirikannya Gereja Portugis di luar kota pada tahun 1696, kini menjadi Gereja Sion di Jl. P. Jayakarta. Keturunan Portugis ini juga diberi lahan bertani di daerah yang kini disebut daerah Tugu. Pada abad ke-18 ini VOC membebaskan imam-imam Katolik untuk singgah di Batavia untuk melayani umat-umat, baik yang keturunan Portugis maupun juga pegawai VOC. Pada masa Daendels barulah umat Katolik diijinkan untuk merayakan misa secara terbuka, pada tahun 1808. Daendels juga memberikan Gereja Katolik resmi pertama di Batavia pada tahun 1810 bertempat di Gang Kenanga Utara, daerah Senen sekarang. Gereja perdana ini sudah dibongkar pada tahun 1989. Pada tahun 1830 Gubernur Jendral Du Bus de Ghisignies menghibahkan tempat kediaman komandan tentara dan wakil gubernur jendral kepada Prefektur Apostolik Batavia. Di lahan inilah kini berdiri Gereja Katedral Jakarta.
Pada tahun 1856 suster-suster Ursulin mendirikan biara susteran pertama 'Groot Kloster' di Batavia di Jl Juanda dilanjutkan biara keduanya 'Klein Klooster' di Jl Pos pada tahun 1859 diikuti biara-biara Ursulin lain di daerah Jatinegara dan Kramat. Suster-suster dari Carolus Borromeus membuka Rumah Sakit Sint Carolus pada tahun 1919. Saat-saat awal tersebut imam-imam Jesuitlah yang menyelenggarakan karya pastoral di wilayah Batavia baru kemudian dibantu oleh imam-imam Fransiskan pada tahun 1929 dan imam-imam dari Misionaris Hati Kudus (MSC]] tahun 1932. Dalam bidang pendidikan, imam-imam Yesuit mendirikan Perkumpulan Strada tahun 1924. Sekolah pertamanya dibuka tahun itu juga di daerah Gunung Sahari. Pada tahun 1927 Perkumpulan Strada mendirikan sekolah menengah berasrama di Menteng yang kemudian menjadi Kolese Kanisius pada tahun 1932.
Pada masa pendudukan Jepang, Vikaris Apostolik Batavia saat itu Mgr. P. Willekens S.J. mengusahakan agar rumah sakit dan sekolah-sekolah Katolik untuk tetap beroperasi dan tetap melayani umat Katolik di masa sulit tersebut.
Setelah Indonesia merdeka, Gereja Katolik mulai berkembang kembali. Jumlah umat semakin bertambah, demikian juga dengan jumlah paroki. Paroki Mangga Besar didirikan tahun 1946, paroki di Jl. Malang tahun 1948, paroki Tangerang tahun 1948. Bila pada 1950 baru ada 12 paroki, pada tahun 1960 sudah terdapat 16 paroki, pada tahun 1970 terdapat 23 paroki, pada tahun 1980 terdapat 34 paroki, pada tahun 1988 terdapat 39 paroki, pada tahun 1990 terdapat 40 paroki, dan pada 2002 sudah terdapat 53 paroki dengan 411.036 orang umat yang dilayani oleh 277 imam. Pada tahun 2007 diperingati 200 tahun Gereja Katolik di Jakarta. Saat itu sudah terdapat 60 paroki. Puncak Perayaan Agung 200 tahun Gereja Katolik di Jakarta diselenggarakan di Istora - Senayan pada tgl. 26 Mei 2007, yang dihadiri pula oleh sebagian besar para uskup di Indonesia.