وأول خطوة اتخذها في هذا السبيل هو بناء المسجد النبوي. واشترى لذلك الأرض التي بركت بها ناقته، وكانت لغلامين يتيمين، وكانت مائة ذراع في مائة ذراع تقريبًا، وفيها قبور المشركين، وخرب ونخل وشجرة من غرقد فنبشت القبور، وسويت الخرب، وقطعت الشجرة والنخل، وصفت في قبلة المسجد، وجعل الأساس قريبًا من ثلاثة أذرع، وأقيمت الحيطان من اللبن والطين، وجعلت عضادتا الباب من الحجارة. والسقف من الجريد، والعمد من الجذوع، وفرشت الأرض بالرمال والحصباء، وجعلت له ثلاثة أبواب، وكانت القبلة في الشمال إلى بيت المقدس. وكان الرسول - صلى الله عليه وسلم - ينقل الحجارة واللبن مع المهاجرين والأنصار، ويرتجز ويرتجزون، فيزيدهم ذلك نشاطًا.

وبنى بجانب المسجد حجرتين بالحجارة واللبن، وسقفهما بالجريد والجذوع، إحداهما لسودة بنت زمعة، والثانية لعائشة - رضي الله عنها - بعد قدومها قريبًا في شوال سنة 1 هـ.

وبدأ المسلمون يحضرون للصلوات الخمس في جماعة، ويتحينون أوقاتها. فيتعجل بعضهم ويتأخر البعض، فاستشار النبي - صلى الله عليه وسلم - والمسلمون في علامة يعرفون بها حضور الصلاة، فأشار بعضهم برفع النار، وبعضهم بالنفخ في البوق. وبعضهم بضرب الناقوس، فقال عمر - رضي الله عنه: أولا تبعثون رجلًا ينادي ب"الصلاة جامعة"فقبل رسول الله - صلى الله عليه وسلم - هذا الرأي وعمل به، ثم أن عبدالله بن زيد بن عبد ربه الأنصاري - رضي الله عنه - رأى الأذان في المنام فجاء وأخبر النبي - صلى الله عليه وسلم - فقال: إنها لرؤيا حق، وأمره أن يلقي على بلال حتى ينادي بها، لأنه أندى صوتًا منه، فأذن بلال، وسمع صوته عمر بن الخطاب - رضي الله عنه - فجاء يجرر رداءه وقال: وقال: والله لقد رأيت مثله. فتأكد بذلك الرؤيا، وصار الأذان أحد شعار الإسلام منذ ذلك اليوم.