-ثم جاء الفتح الإسلامي لبيت المقدس صلحًا في عهد عمر - رضي الله عنه - سنة 16 هـ / 637م ، ولم يكن لليهود وجود بها وقت الفتح؛ حتى إن بطريرك النصارى اشترط في عقد تسليم المدينة عدم دخول أحد من اليهود إليها، ثم طلب عمر - رضي الله عنه - من البطريرك أن يدله على مسجد داود، - يعني المسجد الأقصى- فانطلق به حتى انتهى إلى مكان الباب وقد انحدر الزبل على درج الباب، فتجشم عمر - رضي الله عنه - حتى دخل ونظر، فقال: الله أكبر، هذا والذي نفسي بيده مسجد داود الذي أخبرنا رسول الله - صلى الله عليه وسلم - أنه أسري به إليه، ثم أخذ عمر - رضي الله عنه - والمسلمون يكنسون الزبل عن الصخرة حتى ظهرت كلها .... ففي مسند الأمام أحمد بسند حسن (261) أن عمر - رضي الله عنه - قال لكعب - رضي الله عنه - بعد فتح بيت المقدس أين أصلي ؟ قال: إن أخذت عني صليت خلف الصخرة، فكانت القدس كلها بين يديك، فقال: عمر ضاهيت اليهودية، لا ولكن أصلي حيث صلى رسول الله - صلى الله عليه وسلم - ، فتقدم إلى القبلة فصلى ، ثم جاء فبسط رداءه، وكنس الكناسة في ردائه وكنس الناس.

-وبقي المسجد الأقصى على حالته بعد الفتح الإسلامي إلى أن جاء الخليفة الأموي عبد الملك بن مروان فبدأ بناء المسجد الأقصى سنة 66 هـ على صورته القائمة اليوم. وأما الصخرة فأول من بنى فوقها مسجدًا في العصر الإسلامي عبد الملك بن مروان، وهو المسجد المعروف بمسجد الصخرة، والمشهور بقبته الذهبية على المبنى المثمن.