Pembangunan Museum Ranggawarsita mulai dirintis pada 1975. Namun, baru pada tahun 1977 pembangunannya mulai dilaksanakan secara bertahap. Pada 1983, salah satu ruang pameran tetap, yaitu gedung C telah selesai. Atas perintah [[Daftar Gubernur Jawa Tengah|Gubernur Jawa Tengah]] saat itu, [[Soepardjo Rustam]], museum ini dibuka untuk umum dan diresmikan olehnya pada tanggal 2 April 1983.
Pada tanggal 5 Juli 1989, Museum Negeri Provinsi Jawa Tengah diresmikan sebagai Unit Pelaksana Teknis (UPT) Kantor Wilayah Departemen Pendidikan dan Kebudayaan Provinsi JawaTengah oleh [[Daftar Menteri Pendidikan, Kebudayaan, Riset, dan Teknologi Indonesia|Menteri Pendidikan dan Kebudayaan]], [[Fuad Hassan (akademisi)|Fuad HasanHassan]], dengan Surat Keputusan tanggal 2 Desember 1987 Nomor: 0754/0/1987. Pada 1989,saat itu pembangunan gedung A dan B sudah selesai. Kemudian, tanggal 4 April 1990, terbit Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor: 0223/0/1990 tentang Penamaan Museum Negeri Provinsi Jawa Tengah “Ranggawarsita”. Pembangunan gedung D selesai pada tahun 1991. Menurut buku ''Direktori Museum-Museum di Indonesia'' yang terbit pada 1994, Museum Ranggawarsita menempati lahan seluas kurang lebih 20.580 m², sedangkan luas bangunan 14.152 m².
