เมื่อประมาณ 100 ปีที่ผ่านมา มีชาวอิสลามจากจังหวัดพระนครศรีอยุธยา 2 ครอบครัว 2 ตระกูล คือ ตระกูลเจริญสุข และตระกูลมาลีคล้ายมาอาศัยอยู่ที่วัดใหม่ร้าง ยึดถิ่นฐานทำมาหากินในจังหวัดปทุมธานี โดยมี นายอู๋ เจริญสุข กับนายเลาะห์ มาลีคล้าย หัวหน้าครอบครัวทั้งสอง มีอาชีพทำการประมงและทำสวน ต่อมาประมาณปี 2460 ได้มีประชากรเพิ่มมากขึ้น นายอู๋กับนายเลาะห์ก็ได้คิดริเริ่มสร้างอาคารมัสยิดพร้อมโรงเรียนสอนศาสนาขึ้น เป็นเรือนไม้ชั้นเดียวอยู่ริมแม่น้ำเจ้าพระยา มีชื่อว่า มัสยิดร่วมจิตต์มุสลิม โดยมีนายอู๋ เจริญสุข ทำหน้าที่เป็นอิหม่ามในขณะนั้น ต่อมาในปี พ.ศ. 2491 ได้มีประชากรเพิ่มมากขึ้นประกอบกับอาคารมัสยิดหลังเดิมชำรุดทรุดโทรมลง ทางคณะกรรมการอิสลามประจำมัสยิดจึงมีมติร่วมกันให้ก่อสร้างอาคารมัสยิดหลังใหม่ขึ้น ซึ่งได้รับการสนับสนุน พระราชธรรมนิเทศ ส.ส.จังหวัดปทุมธานีในขณะนั้น โดยมี นายจรัญ เจริญสุข ทำหน้าที่เป็นอิหม่าม นายหวัง มาลีคล้าย เป็นคอเต็บ นายฟี เจริญสุข เป็นบิหลั่น และได้จดทะเบียนเป็นนิติบุคคลเมื่อปี พ.ศ. 2491 เป็นมัสยิดหลัง ที่ 4 ของจังหวัดปทุมธานีที่จดทะเบียนเป็นนิติบุคคล

ในปี พ.ศ. 2512 ฮัจยีมูเราะห์ ก้านทอง กบฮัจยีฮีม บุญยง ได้ไปหาประธานฮาลีม ศิริยามัน เพื่อหาครูสอนศาสนา และประธานฮาลีม ศิริยามันได้ให้ นายสนั่น (อิสมาแอล) ล้ำประเสริฐ มาเป็นครูสอนศาสนาตั้งแต่บัดนั้นเป็นต้นมา ซึ่งในขณะนั้น นายหมัด อาหรับ ทำหน้าที่เป็นอิหม่าม ต่อมาในปี พ.ศ. 2515 คณะกรรมการอิสลามประจำมัสยิดร่วมจิตต์มุสลิมได้ประชุมและมีมติให้รื้ออาคารมัสยิดหลังเดิมที่อยู่ริมแม่น้ำเจ้าพระยา ซึ่งเป็นที่ดินของ กรมชลประธาน และได้สร้างอาคารหลังใหม่ขึ้นบนที่ดินของนายหวัง มาลีคล้าย กรรมการอิสลามประจำจังหวัดในขณะนั้น ซึ่งได้วากั๊ฟที่ดินให้มัสยิด จำนวน 28 ตารางวาและได้เพิ่มเติมรวมเป็น 76 ตารางวา ได้สร้างอาคารมัสยิดหลังใหม่เป็นอาคารเรือนไม้สองชั้น ชั้นบนเป็นที่ทำการละหมาด ชั้นล่างเป็นที่สอนศาสนาให้แก่เยาวชนในละแวกนั้น

ในปี พ.ศ. 2527 นายสนั่น ล้ำประเสริฐ ทำหน้าที่เป็นอิหม่าม นายสมหวัง บุญยง เป็นคอเต็บ และนายสมศักดิ์ ก้านทอง เป็นบิหลั่น คณะกรรมการอิสลามประจำมัสยิดและสัปปุรุษได้ประชุมและมีมติร่วมกันให้สร้างอาคารมัสยิดหลังใหม่ขึ้นเป็นอาคารคอนกรีตเสริมเหล็ก 2 ชั้น แทนหลังเดิมที่ชำรุดทรุดโทรม โดยเชิญอดีตท่านจุฬาราชมนตรี นายประเสริฐ มะหะหมัด มาเป็นประธานพิธีวางศิลารากฐานอาคารมัสยิด และอาคารมัสยิดได้สร้างเสร็จสมบูรณ์เมื่อปี พ.ศ. 2536 ดังที่เห็นอยู่ในปัจจุบันนี้