أثار فتح دمشق روح المقاومة في الجيش البيزنطي الرومي، فحشد ملكهم هرقل جيشًا هائلًا قوامه خمسون ألفًا بقيادة أخيه تيودور. وحشد المسلمون خمسة وعشرين ألفًا بقيادة خالد بن الوليد، ونشب القتال بين الجيشين في اليرموك صيف عام 15هـ الموافق 636م، وانتصر المسلمون، وكاد جيش الروم أن يفنى بعد مقتل قائدهم، مما اضطر هرقل إلى الانسحاب من أنطاكية. انظر: اليرموك، معركة. وكان من نتائج هذه المعركة ـ إضافة إلى هذا الانتصار الكبير للمسلمين ـ أن سيطر المسلمون على قلب بلاد الشام والجزيرة، وانطلقوا في الفتوحات شمالًا وجنوبًا حيث استْولوا في الجنوب على بيت المقدس عام 17هـ الموافق 638م، وعلى قيسارية عام 20هـ الموافق 640م. وتتابعت الفتوح في الشمال بعد حمص، فدخل المسلمون حلب ثم أنطاكية واتجهوا إلى الشرق إلى مدن الجزيرة، فصالحوا أهل الرها ونُصِّيبين وأرمينية. وبذلك تم الاتصال بين فتوح الشام وفتوح العراق، وأصبحت الشام قاعدة انطلاق غربًا إلى شمالي إفريقيا وشرقًا إلى الجناح الشرقي من دولة الخلافة.