فلما قدموا المدينة أظهروا الإسلام بها، وفي قومهم بقايا من شيوخ على دينهم من الشرك، منهم عمرو بن الجموح وكان ابنه معاذ بن عمرو ممن شهد العقبة وبايع رسول الله صلى الله عليه وسلم، وكان عمرو بن الجموح سيدا من سادات بني سلمة وشريفا من أشرافهم، وكان قد اتخذ في داره صنما من خشب يقال له"مناة"كما كانت الأشراف يصنعون، يتخذه إلها يعظمه ويظهره، فلما أسلم فتيان بني سلمة معاذ بن جبل، وابنه معاذ بن عمرو في فتيان منهم ممن أسلم وشهد العقبة، كانوا يدلجون بالليل على صنم عمرو ذلك، فيحملونه فيطرحونه في بعض حفر بني سلمة وفيها عذر الناس منكسا على رأسه، فإذا أصبح عمرو قال: ويلكم من عدا على إلهنا هذه الليلة؟ قال: ثم يعود ويلتمسه حتى إذا وجده غسله وطهره وطيبه ثم قال: أما والله لو أعلم من فعل هذا بك لأخزينه. فإذا أمسى ونام عمرو عدوا عليه فعملوا به مثل ذلك، فيغدو فيجده في مثل ما كان عليه من الأذى، فيغسله ويطهره ويطيبه، ثم يعدون عليه إذا أمسى فيفعلون به مثل ذلك، فلما أكثروا عليه استخرجه من حيث ألقوه يوما فغسله وطهره وطيبه ثم جاء بسيفه فعلقه عليه ثم قال: إني والله ما [أعلم من] صنع بك ما ترى، فإن كان فيك خير فامتنع، فهذا السيف معك. فلما أمسى ونام عدوا عليه وأخذوا السيف من عنقه ثم أخذوا كلبا ميتا فقرنوه به بحبل، ثم ألقوه في بئر من آبار بني سلمة فيها عذر من عذر الناس، ثم غدا عليه عمرو فلم يجده في مكانه الذي كان فيه، فخرج يتبعه حتى وجده في تلك البئر منكسا مقرونا بكلب. فلما رآه أبصر شأنه، وكلمه من أسلم من قومه، فأسلم يرحمه الله وحسن إسلامه، فقال حين أسلم وعرف من الله ما عرف، وهو يذكر صنمه ذلك وما أبصر من أمره ويشكر الله تعالى الذي أنقذه مما كان فيه من العماء والضلالة فقال:
والله لو كنت إلها لم تكن ... أنت وكب وسط بئر في قرن