فلما قدموا المدينة إلى قومهم ذكروا لهم رسول اله صلى الله عليه وسلم ودعوهم إلى الإسلام، واستجاب منهم نفر كثير فلم تبق دار إلا وفيها ذكر رسول الله صلى الله عليه وسلم. حتى إذا كان العام المقبل وافى الموسم طائفة من يثرب - عشرة من بني الخزرج واثنان من بني الأوس - فلقوه في المكان المعين، وبايعوه أن يتبعوا تعاليمه. وهذه هي البيعة الأولى المعروفة ببيعة العقبة، وسميت بذلك لأنهم اجتمعوا سرًا في مكان خفي. وقد أخذوا على أنفسهم (ألا نشرك بالله شيئًا، ولا نسرق ولا نزني ولا نقتل أولادنا، ولا نأتي ببهتان نفتريه من بين أيدينا وأرجلنا ولا نعصيه في معروف) رجع هؤلاء الإثنا عشر رجلًا بعد ذلك إلى يثرب مبشرين بالإسلام، وبذلك مهد السبيل للدين الجديد، وأقبلوا على نشر الدعوة بحماس ورغبة، حتى انتشر الإسلام سريعًا من بيت لبيت، ومن قبيلة لقبيلة
وقد صحبهم في دعوتهم إلى يثرب مصعب بن عمير. ويقال في رواية أخرى إن الرسول بعثه إلى أهل يثرب بعد أن كتبوا إليه بذلك. كان ذلك الشاب الناشئ أحد معتنقي الإسلام الأوائل. وكان قد رجع حديثًا من الحبشة، بعد أن حنكته التجارب هناك، وأنضجت التنشئة القاسية في ميدان الاضطهاد حماسته، وعلمته كيف يقابل الاضطهاد، وكيف يناضل أولئك الذين كانوا متوثبين للحط من شأن الإسلام من غير أن يعلموا شيئًا من تعاليمه الصحيحة. لذلك استطاع محمد (ص) أن يعهد إليه واثقًا القيام بذلك الواجب العسير، واجب إرشاد حديثي العهد بالإسلام وتعليمهم، وتنمية بذور الحماس والإخلاص الديني، التي غرست فيهم من قبل، حتى تؤتي أكلها طيبة
كان منزل مصعب على أسعد بن زرارة، وكان يجمع معتنقي الإسلام إليه للصلاة ولقراءة القرآن. يفعل ذلك أحيانًا في دار مصعب وأحيانًا في دار بني ظفر، وكانت في ناحية من المدينة يقطنها بطن بني عبد الأشهل وبطن بني ظفر
كان رؤساء بني الأشهل سعد بن معاذ وأسيد بن حضير. وبينما كان مصعب جالسًا ذات يوم مع أسعد في دار بني ظفر يعلم طائفة من حديثي العهد بالإسلام. إذ وفد سعد بن معاذ، وكان يبحث عن مكانهم فقال لأسيد بن خضير: (أنطلق إلى هذين الرجلين اللذين قد أتيا ديارنا ليسفها ضعفاءنا، فازجرهما وأنهاهما عن أن يأتيا ديارنا فإنه لولا أن أسعد بن زرارة من حيث قد علمت كفيتك ذلك لأنه كان ابن خالة أسعد. فأخذ سيد بن حضير حربته ثم أقبل