أبدل عمر بن الخطاب رضى الله عنه بالجريد في بيت النبي صلى الله عليه وسلم جدارًا فكان أول من بنى عليه جدارًا وروى أن الجدار كان قصيرًا فبناه عبدالله بن الزبير.
وبنت السيدة عائشة بينها وبين القبور جدارًا فقسمت بذلك البيت المطهر قسمين قسم قبلي وفيه القبور الثلاثة وقسم شمالي لسكناها. وقد كانت تدخل حيث القبرين فضلًا فلما دفن عمر رضي الله عنه لم تدخل إلا وهي جامعة عليها ثيابها وروي عنها أنها قالت: (مازلت أضع خماري وأتفضل في ثيابي حتى دفن عمر فلم أزل متحفظة في ثيابي حتى بنيت بيني وبين القبور جدارًا) . وروي أن الناس كانوا يأخذون تراب القبر للتبرك فأمرت السيدة عائشة بجدار فضرب على القبور منعًا لسريان ذلك بين الناس وأنه كان في الجدار كوة يأخذون التراب منها فأمرت بسدها.
كتب الوليد بن عبد الملك لعمر بن عبد العزيز عامله على المدينة- بعد أن اشترى حجرات أمهات المؤمنين رضي الله عنهن- بهدمها وتوسيع المسجد بها فقعد عمر في ناحية وأمر بهدمها فلما هدم البيت الأول ظهرت القبور الثلاثة وكان الرمل الذي عليها قد انهار.
وأراد عمر بن عبد العزيز أن يصلح القبور بنفسه ثم أمر مولاه مزاحما بإصلاحها وروى عبدالله بن محمد بن عقيل قال: خرجت في ليلة مطيرة حتى إذا كنت عند دار المغيرة بن شعبة لقيتني رائحة لا والله ما وجدت مثلها قط فجئت المسجد فبدأت بالقبر فإذا جداره قد انهدم من المشرق فدخلت فسلمت فلم ألبث أن سمعت الحس فإذا عمر بن عبد العزيز قد أمر به فستر بالقباطي.
ولما أصبح دعى وردان البنا فدخل الحجرة وقال لا بدلي من رجل فكشف عمر بن عبد العزيز ساقه وكشف قاسم بن محمد وسالم بن عبدالله عن سوقها فقال عمر لهما مالك فقالوا…