ولعشر خلون من شهر رمضان المبارك 8 هـ، غادر رسول الله - صلى الله عليه وسلم - المدينة متجهًا إلى مكة في عشرة ألاف من الصحابة رضي الله عنهم واستخلف على المدينة أبا رُهْم الغفاري. ولما كان بالجُحْفَة أو فوق ذلك لقيه عمه العباس بن عبد المطلب وكان قد خرج بأهله وعياله مسلمًا مهاجرًا ثم لما كان رسول الله - صلى الله عليه وسلم - بالأبواء لقيه ابن عمه أبو سفيان ابن الحارث وابن عمته عبدالله بن أبي أمية، فأعرض عنهما لما كان يلقاه منهما من شدة الأذي والهجو فقالت له أم سلمة لا يكن ابن عمك وابن عمتك أشقي الناس بك وقال علي لأبي سفيان بن الحارث ائت رسول الله - صلى الله عليه وسلم - من قبل وجهه فقل له ما قال إخوة يوسف ليوسف: {قَالُوا تَاللّهِ لَقَدْ آثَرَكَ اللّهُ عَلَيْنَا وَإِن كُنَّا لَخَاطِئِينَ} يوسف 91 فإنه لا يرضي أن يكون أحد أحسن منه قولًا، ففعل ذلك أبو سفيان، فقال له رسول الله صلى الله عليه وسلم: {قَالَ لاَ تَثْرَيبَ عَلَيْكُمُ الْيَوْمَ يَغْفِرُ اللّهُ لَكُمْ وَهُوَ أَرْحَمُ الرَّاحِمِينَ} يوسف 92 فأنشده أبو سفيان أبياتًا منها: فضرب رسول الله صلى الله عليه وسلم صدره وقال: أنتَ طَرَّدْتَنِي كل مُطَرَّد؟.

ثم نهض رسول الله - صلى الله عليه وسلم -، والمهاجرون والأنصار بين يديه وخلفه وحوله، حتى دخل المسجد، فأقبل إلى الحجر الأسود، فاستلمه ثم طاف بالبيت وفي يده قوس وحول البيت ثلاثمائة وستون صنما، فجعل يطعنها بالقوس، ويقول: {جَاء الْحَقُّ وَزَهَقَ الْبَاطِلُ إِنَّ الْبَاطِلَ كَانَ زَهُوقًا} الإسراء 81، {قُلْ جَاء الْحَقُّ وَمَا يُبْدِئُ الْبَاطِلُ وَمَا يُعِيدُ} سبأ 49 والأصنام تتساقط على وجوهها، وكان طوافه على راحلته، ولم يكن محرمًا يومئذ، فاقتصر على الطواف، فلما أكمله دعا عثمان بن طلحة، فأخذ منه مفتاح الكعبة، فأمر بها ففتحت فدخلها، فرأي فيها الصور ورأي فيها صورة إبراهيم وإسماعيل عليهما السلام يستقسمان بالأزلام، فقال:"قاتلهم الله، والله ما استقسما بها قط"ورأي في الكعبة حمامة من عيدان، فكسرها بيده، وأمر بالصور فمحيت.