Masjid ini dibangun pada tahun 1965 ditengah hutan karet. Lalu pada tahun 1992 disebelahnya dibangun Masjid Al Hurriyyah kedua yang lebih besar dengan kapasitas hingga 5000 orang. Design masjid ini terletak pada segitiga yang merupakan rangka pada masjid, secara mekanika struktural adalah rangka paling stabil, sehingga minim pilar dan ruang masjid menjadi lebih luas serta cahaya dan ventilasi udara menjadi optimal. Masjid ini terdiri dari tiga lantai dengan lantai pertama meliputi tempat wudhu, ruang rapat dan kuliah, serta sekretariat DKM dan UPZ Al Hurriyyah IPB. Lantai kedua yang merupakan ruang utama sholat laki-laki serta beberapa ruangan multi fungsi. Lantai tiga khusus diperuntukkan untuk ruang shalat bagi jamaah perempuan.