فعمر رضي الله عنه أبقى المسجد على صفته التي كان عليها زمن الرسول صلّى الله عليه وسلّم، بل نهى عن زخرفة المسجد، لأن ذلك يشغل الناس عن صلاتهم، وقال عندما أمر بتجديد المسجد النبوي: (أَكِنَّ الناس من المطر، وإياك أن تُحَمِّرَ أو تُصَفِّرَ فتفتن الناس) [ (1316) ] .

وأما عثمان رضي الله عنه فقد حسّن المسجد النبوي بما لا يقتضي الزخرفة، ولعله فعل ذلك، لأنه لما رأى الناس قد حسنوا بيوتهم بما أعطاهم الله رأى أن من المناسب تحسين مسجد رسول الله صلّى الله عليه وسلّم، ومع ذلك فقد أنكر عليه بعض الصحابة رضي الله عنهم.

فقد ورد عن عبيد الله الخولاني أنه سمع عثمان بن عفان يقول ـ عند قول الناس فيه حين بنى مسجد الرسول صلّى الله عليه وسلّم ـ: (إنكم أكثرتم، وإني سمعت رسول الله صلّى الله عليه وسلّم يقول: «من بنى مسجدًا ـ قال بكير: حسبتُ أنه قال ـ يبتغي به وجه الله، بنى الله له مثله في الجنة» [(1317) ] ).

وعن محمود بن لبيد ـ وهو من صغار الصحابة ـ أن عثمان بن عفان رضي الله عنه أراد بناء المسجد فكره الناس ذلك، فأحبوا أن يدعه على هيئته فقال: سمعت رسول الله صلّى الله عليه وسلّم يقول: «من بنى مسجدًا لله بنى الله له في الجنة مثله» [ (1318) ] .