Masjid Al-Ghufran telah didaftarkan dengan nama Surau Balai Islam dibawah pengawasan Jabatan Agama Islam Wilayah Persekutuan (JAWI) pada 6 April 1993. Ia pada mulanya hanya digunakan untuk pusat pertemuan masyarakat Islam setempat di hari-hari kebesaran Islam juga sebagai pusat kelas-kelas pengajian di samping berperanan sebagai tempat solat ahli-ahli jemaah di sekitar Pinggir Taman Tun Dr. Ismail.

Ia didirikan di atas sebidang tanah yang telah diwakafkan oleh salah seorang ahli jemaah yang bermurah hati menyerahkan sebahagian tanah peribadinya untuk diusahakan sebagai sebuah Surau.

Mulai dari Februari 1995, Surau Balai Islam telah dinaikkan taraf menjadi Surau Jumaat memandangkan peranannya sebagai tempat bersolat untuk ahli jemaah di kawasan persekitarannya semakin penting dengan bertambahnya kegiatan pembangunan di sekitar Pinggir Taman Tun Dr. Ismail.

Hasil daripada sumbangan dermawan dari golongan para koprat, Surau Balai Islam ini telah diubahsuai dan dibangunkan sesuai dengan peningkatan peranannya yang bukan sahaja sebagai surau malah mempunyai kemudahan-kemudahan seperti sekolah rendah agama, kamar musafir, dewan konferen, dewan makan dan bilik mesyuarat yang dibangunkan sejak September 1998. Akhirnya Surau Balai Islam yang berwajah baru telah siap dibangunkan dan mula beroperasi menerima tempahan untuk penginapan kamar musafir pada 14 Julai 2000.

Sesuai dengan pembangunan yang berkembang pesat maka Surau Balai Islam telah dinaikkan taraf kepada Masjid pada 4 April 2000. Masjid ini dinamakan Masjid Al-Ghufran sempena nama yang diberikan oleh Yang Berbahagia Datuk Mohd Hashim B. Yahaya, Mufti Wilayah Persekutuan yang bermaksud 'Keampunan'.

Mudah-mudahan dengan kewujudan Masjid Al-Ghufran ini akan menambahkan lagi rumah-rumah Allah yang bukan sahaja berfungsi sebagai masjid untuk pusat kegiatan sosial yang islamik kepada masyarakat, tetapi juga berfungsi sebagai tempat kemudahan yang diperlukan oleh para musafir khususnya dan umat Islam amnya dalam membantu menyemarakkan lagi syiar Islam ke pelusuk dunia.