في الرابع والعشرين من شهر رمضان من عام 20هـ، شرع المسلمون تحت قيادة عمرو بن العاص في بناء أول مسجد للمسلمين في مصر خاصة، والقارة الإفريقيَّة عامة، وقد بنى عمرو بن العاص المسجد وكان ما حوله حدائقَ وأعنابًا، فنصبوا الحبال حتى استقام لهم، ووضعوا أيديهم، فلم يزل عمرو قائمًا حتى وضعوا القبلة.
وكان المؤذن الراتب في ولاية عمرو لهذا المسجد، أبا مسلم اليافعي، وكان من عادته تبخير هذا المسجد.
وقد لقب مسجد عمرو بن العاص بعدة أسماء، مثل: المسجد الجامع، مسجد النصر، المسجد العتيق، وغيرها من الأسماء الأخرى. وقد ذكر ابن عبد الحكم في (فتوح مصر) أعمال الترميم والتوسعة التي أُحدثت في مسجد عمرو حتى خلافة المأمون العباسي، فقال: إن مسلمة بن مخلد الأنصاري زاد في المسجد الجامع بعد بنيان عمرو له، ومسلمة الذي كان أخذ أهل مصر ببنيان المنار للمساجد، كان أخذه إياه بذلك في سنة ثلاث وخمسين، فبنيت المنارة، وكتب عليها اسمه، ثم هدم عبد العزيز بن مروان المسجد في سنة سبع وسبعين وبناه.
ولا تزال لهذا المسجد منزلة عظيمة في قلوب أبناء مصر، خاصة في شهر رمضان.