في آذار عام 635م وعندما كانت حمص محاصرة بدأ هرقل الإعداد لعمله الأخير في سورية باستنفار القوات الرومية من خارج الشام. وفي أيام 636م كان قد شكّل جيشًا من 150 ألف جندي تم حشده في إنطاكية وشمال سورية، يضم السلاف والأرمن والبلغار واليونان والجورجيين. وكانت خطته تقضي بمهاجمة المسلمين في دمشق وعزلهم وبجيش آخر يتم تثبيت المسلمين في حمص وتدميرهم ويتقدم الروم بعدها لتدمير جيوش المسلمين الواحد تلو الآخر. وصلت أخبار التحشدات والخطط إلى المسلمين وقد أدرك خالد استراتيجية الحشد وغرضه -فنصح قائده أبا عبيدة بالانسحاب من شمال سورية ووسطها وحشد جميع القوات على صعيد واحد وعلى حافة الصحراء لتكون على اتصال بعمقها في الجزيرة، وبالفعل تم الانسحاب إلى الجانبين. وقد تم ذلك قبل وصول الروم إلى دمشق، بعد أن تحرك حشد المسلمين جنوبًا ليجعلوا ظهورهم لجبل العرب، ومجنبتهم لليرموك، وجبهتهم تواجه جبهة الروم الذين جعلوا ظهورهم لوادي الرقاد - وقد تسلّم خالد القيادة وحدثت فترة سكون لمدة شهر وبعدها بدأت المعركة التي دامت ستة أيام، وفي الخمس الأولى منها أنهك الروم بأن تلقى ضرباتهم، وفي السادس هاجمهم ودافعهم باتجاه الرقاد- حيث كانت نهاية هذا الجيش. ولم يترك خالد لما هان قائد الروم فرصة النجاة بل لحقه حتى أدركه على أبواب دمشق مع من تبقى من جنده فقتله، وخرج أهالي دمشق لكمين خالد وذكروه بالمعاهدة السابقة فأكدّ لهم أنهم ما زالوا في حمايتها.