وبعد عشرين يومًا تحرك رسول الله - صلى الله عليه وسلم - إلى المدينة، وقد استغرق الذهاب والعودة ثلاثين يومًا، فجملة ما غاب رسول الله - صلى الله عليه وسلم - عن المدينة خمسون يومًا.
وفي الطريق مر الجيش بعقبة، فأخذ الناس بطن الوادي، وسلك رسول الله - صلى الله عليه وسلم - طريق العقبة، ولم يكن معه إلا عمار، وآخذًا بزمام الناقة، وحذيفة بن اليمان، يسوقها، فتبعه اثنا عشر رجلًا من المنافقين يريدون اغتياله، واقتربوا منه جدًا، وهم ملتثمون، فعبث رسول الله - صلى الله عليه وسلم - إليهم حذيفة، ليضرب وجوه رواحلهم بمحجن كان معه، فضربها، فأرعبهم الله، وأسرعوا بالفرار حتى لحقوا بالقوم، وأخبر رسول الله - صلى الله عليه وسلم - حذيفة بأسمائهم، وبما أراده، فسمى بصاحب سر رسول الله - صلى الله عليه وسلم -.
وكان المنافقون قد بنوا بقباء مسجدًا ضرارًا وكفرًا وتفريقًا بين المؤمنين وإرصادًا لمن حارب الله ورسوله، وطلبوا من رسول الله - صلى الله عليه وسلم - أن يصلي لهم فيه، وذلك عندما كان يستعد للخروج إلى تبوك، فقال: إنا على سفر، ولكن إذا رجعنا إن شاء الله، فلما كان في مرجعه من تبوك، ونزل بذي أوان، وليس بينه وبين المدينة إلا يوم أو بعض يوم، نزل جبريل عليه السلام بخبر المسجد، فبعث رسول الله - صلى الله عليه وسلم - من أحرقه وهدمه.