Sejarahnya, bangunan itu merupakan tempat konsentrasi militer Belanda setelah Batavia pindah ke Weltervreden.

Kondisi bangunan yang tak terurus itu membuat ribuan orang melakukan kerja bakti. Mulai dari masyarakat biasa, pegawai negeri, swasta, alim ulama hingga ABRI berjibaku membersihkan taman bekas benteng penjajah itu.

Tetiba, ide untuk membangun masjid di lokasi tersebut terlontar.

Kala itu ide yang tak pernah terpikir itu datang dari Menteri Agama RI pertama, KH Wahid Hasyim.

Lalu diamini H. Agus Salim, Anwar Tjokroaminoto dan Ir. Sofwan beserta sekitar 200-an orang tokoh Islam pimpinan KH. Taufiqorrahman.

Biar lebih serius, ide itu diwujudkan dengan membentuk Yayasan Masjid Istiqlal yang didirikan pada 7 Desember 1954.