خطها لي رسول الله صلى الله عليه وسم وبنيتها معه وما وضعت الميزاب إلا ورجلاي على عاتقي رسول الله صلى الله عليه وسلم فجاء عمر فطرحه وأراد إدخالها في المسجد فقال أبي إن عندي من هذا علما سمعت رسول الله صلى الله عليه وسلم يقول أراد داود عليه السلام أن يبني بيت الله المقدس كان فيه بيت ليتيمين فراودهما على البيع فأبيا ثم راودهما فباعاه ثم قاما بالغين فردا البيع واشتراه منهما ثم رداه كذلك فاستعظم داود الثمن فأوحى الله إليه إن كنت تعطي من شيء هو لك فأنت أعلم وإن كنت تعطيهما من رزقنا فاعطهما حتى يرضيا وإن أغنى البيوت عن مظلمة بيت هو لي وقد حرمت عليك بناءه قال يارب فأعطه سليمان فأعطاه سليمان عليه السلام فقال عمر من لي بأن رسول الله صلى الله عليه وسلم قاله فخرج أبي إلى قوم من الأنصار فأثبتوا له ذلك فقال عمر رضي الله عنه أما إني لو لم أجد غيرك اخذت قولك ولكني أحببت أن أثبت ثم قال للعباس رضي الله عنه والله لا ترد الميزاب إلا وقدماك على عاتقي ففعل العباس ذلك ثم قال أما إذا أثبتت لي فهي صدقة لله فهدمها عمر وأدخلها في المسجد
ثم زاد فيه عثمان رضي الله عنه وبناه بقوة وباشره بنفسه فكان يظل فيه نهاره وبيضه وأتقن محله بالحجارة المنقوشة ووسعه من جهاته إلا جهة الشرق منها وجعل له سواري حجارة مثبتة بأعمدة الحديد والرصاص وسقفه بالساج وصنع له محرابا وقيل أن مروان هو أول من بنى المحراب وقيل عمر بن عبد العزيز في خلافة الوليد
ثم زاد فيه الوليد بن عبد الملك تولى ذلك عمر بن عبد العزيز فوسعه وحسنه وبالغ في اتقانه وعمله بالرخام والساج المذهب وكان الوليد بعث إلى ملك الروم أريد أن أبني مسجد نبينا صلى الله عليه وسلم فأعني فيه