ووصل الرسول صلى الله عليه وسلم مع صاحبه أبي بكر الصديق المدينة ودخلها من جنوبها حيث نزل بديار بني عمرو بن عوف بضاحية قباء وكان ذلك يوم الاثنين من شهر ربيع الأول فأقام بها خمسة أيام دعا فيها إلى الله تعالى وتلا القرآن وعلم المؤمنين دين الله تعالى وصلى بالناس، وبنى مسجد قباء فكان أول مسجد بني في الإسلام وترك منازل بني عمرو بن عوف قاصدا المدينة فأدركته صلاة الجمعة فصلاها في حي بني سالم بن عوف بالمسجد الذي يعرف الآن بمسجد الجمعة بواد يقال له (رانوناء) فكانت أول جمعة تصلى في دار الهجرة وعرضت له رجالات أحياء الأوس والخزرج كل يطلب النزول إليه ويقول: أقم عندنا في العدد والعدة والمتعة، والرسول صلى الله عليه وسلم يأبى عليهم ذلك، وكلما اعترضوا ناقته لينيخوها بأحيائهم يقول لهم:"دعوها فإنها مأمورة"حتى وصل إلى حي بني النجار من أخواله [13] فبركت الناقة وألقت بجرانها [14] في المكان الذي بني فيه المسجد النبوي الشريف على مقربة من دار أبي أيوب خالد بن زيد الأنصاري رضي الله عنه والذي نزل عليه رسول الله صلى الله عليه وسلم ضيفا وبقي بمنزله حتى بنيت الحجرات الشريفة فسكنها رسول الله صلى الله عليه وسلم.
وكان أول عمل قام به الرسول صلى الله عليه وسلم بالمدينة بناء مسجده الشريف والذي شارك في حمل حجارته وهو يرتجز يقول:"اللهم لا عيش إلا عيش الآخرة.. فاغفر للأنصار والمهاجرة.."
وعمار بن ياسر يرتجز ويقول:
يدأب فيه قائما وقاعدا
لا يستوي من يعمر المساجدا
ومن يرى عن الغبار حائدا
ففهم أحد الصحابة أنه يعترض به فهدده بالضرب فغضب لذلك رسول الله صلى الله عليه وسلم وقال:"مالهم ولعمار يدعوهم إلى الجنة ويدعونه إلى النار".