Pesantren Al Umm ASWAJA didirikan pada 18 Syawwal 1414 H / 31 Maret 1994 M oleh KH Mohammad Rusli HR, seorang pengusaha Betawi yang merupakan alumni Pondok Modern Gontor.

Keinginan beliau sudah diazamkan setelah beliau berjaji kepada guru beliau untuk suatu saat mendirikan pesantren, hingga pada sekitar tahun 1989 beliau dikaruniai rejeki yang memungkinkan membeli sebidang tanah di Kampung Wangun Tengah, Desa Sindangsari, Kecamatan Ciawi, Kabupaten Bogor (Saat ini adalah Kampung Wangun Tengah, Kel. Sindangsari, Kec. Bogor Timur). Pembelian tanah tersebut atas saran beberapa tokoh masyarakat Ciawi, diantaranya KH Warnudin ZM, yang khawatir di lokasi itu akan dibangun untuk hal-hal yang bisa merusak tatanan sosial masyarakat Ciawi.

Pada tahun 1991 mulailah pembangunan sebuah aula dan beberapa kamar untuk santri dan guru dan pada tanggal 18 Syawwal 1414 / 31 Maret 1994 Pondok Pesantren Al Umm (nama Pondok Pesantren Al Umm pada tahun 2007 berubah menjadi Pesantren Al Umm ASWAJA)

Pada awal berdirinya Pondok Pesantren Al Umm menerima santri yang kesemuanya berasal dari Jakarta. Alhamdulillah hingga kini sebagian dari mereka masih mengabdi di Pesantren Al Umm ASWAJA.

Pada awal berdirinya pesantren mengambil model kurikulum dan sistem pengasuhan Pondok Modern Gontor dengan tetap mempertahankan tradisi ahlussunnah wal jama'ah yang dipraktekkan oleh mayoritas muslim di Indonesia.

Sistem pendidikan diniyah yang diberlakukan hingga tahun 2009 adalah sistem TMI (Tarbiyatul Muta'allimin wal Muta'allimat Al Islamiyyah) yang dipadukan dengan sistem SMP dan SMA. Sejak tahun 2009 pesantren memutuskan untuk lebih mengedepankan ciri-ciri pesantren salaf dengan tetap mempertahankan model pengasuhan dan kegiatan kepesantrenan a la Pondok Modern Darussalam Gontor dan sebagian kurikulumnya.