وكذلك عندما واصل صلى الله عليه وسلم سيره إلى قلب المدينة كان أول ما قام به تخصيص أرض لبناء مسجده صلى الله عليه وسلم. ولقد وعى هذا الأمر صحابة رسول الله صلى الله عليه وسلم فاهتموا بذلك، واعتنى الخلفاء الراشدون بها فكتب عمر بن الخطاب رضي الله عنه إلى ولاته أن يبنوا مسجدًا جامعًا في مقر الإمارة، ويأمروا القبائل والقرى ببناء مساجد جماعة في أماكنهم. عن عثمان بن عطاء قال لما فتح عمر بن الخطاب البلد كتب إلى أبي موسى الأشعري وهو على البصرة يأمره أن يتخذ للجماعة مسجدًا فإذا كان يوم الجمعة انضموا إلى مسجد الجماعة فشهدوا الجمعة [كنز العمال 8/ 313 - 314] .
وهناك واجبات نحو المساجد منها: أن نتزيّن لها وأن نهتمّ بهندامنا ورائحتنا إذا أردنا الذهاب إليها، فلا يعقل أن يتهيّأ المسلم بأحسن ثيابٍ وأحسن مظهر إذا أراد مقابلة بشر من الخلق ويهمل نفسه إذا أراد الدخول إلى بيت خالق الخلق ومقابلة جبار السماوات والأرض، يقول سبحانه: يَا بَنِي آدَمَ خُذُواْ زِينَتَكُمْ عِندَ كُلِّ مَسْجِدٍ وكُلُواْ وَاشْرَبُواْ وَلاَ تُسْرِفُواْ إِنَّهُ لاَ يُحِبُّ الْمُسْرِفِينَ [الأعراف:31] ، بل إن الإسلام يأمرنا إذا تلبَّسنا برائحة خبيثة كرائحة الثوم أو البصل أن نعتزل المساجد حتى لا نؤذي الملائكة ولا نؤذي المؤمنين، رغم أن أكل الثوم والبصل حلال في الأصل، يقول صلى الله عليه وآله وسلم فيما اتفق عليه الشيخان من حديث جابر رضي الله عنه: (( من أكل ثوما أو بصلا فليعتزلنا وليعتزل مسجدنا وليقعد في بيته ) )وعلل رسول الله صلى الله عليه وآله وسلم ذلك بأنه يؤذي الملائكة كما يؤذي البشر، ففي لفظ آخر للحديث يقول: (( من أكل من هذه الشجرة الخبيثة ـ أي: الثوم ـ فلا يقربن مسجدنا فإن الملائكة تتأذى مما يتأذى منه الإنس ) )متفق عليه.