وأقاموا على ما كانوا عليه في حصار دمشق حولًا كاملًا وأيامًا، وكان أبو عبيدة بباب الجابية، وخالد بباب الشرقي، وعمرو بن العاص بباب توما، ويزيد بن أبي سفيان بباب الصغير، فلما طال على صاحب دمشق الأمر أرسل إلى أبي عبيدة فصالحه، وفتح له باب الجابية، وألح خالد على باب الشرقي لما بلغه أن أبا عبيدة عزم على أن يصالح القوم، وأن القوم قد وثقوا به للصلح، ففتحه عنوة، فقال خالد لأبي عبيدة: اسبهم، فإني دخلتها عنوة! فقال: لا، قد أمنتهم! ودخل المسلمون المدينة، وتم الصلح، وذلك في رجب سنة أبع عشر. وروى الواقدي أن خالد بن الوليد صالحهم، وكتب للأسقف كتابا للصلح، وأعطاهم الأمان، فأجاز أبو عبيدة ذلك.
وفي هذه السنة سن عمر بن الخطاب قيام شهر رمضان، وكتب بذلك إلى البلدان، وأمر أبي بن كعب وتميما الداري أن يصليا بالناس، فقيل له في ذلك: إن رسول الله لم يفعله، وإن أبا بكر لم يفعله، فقال: إن تكن بدعة فما أحسنها من بدعة.
ووجه أبو عبيدة عمرو بن العاص إلى الأردن وفلسطين، فجمع القوم جموعًا ليدفعوا عمرًا وأصحابه، فوجه أبو عبيدة إلى عمرو شرحبيل بن حسنة، وتوجه أبو عبيدة نحو جمع الروم، ففتح الأردن عنوة ما خلا طبرية، فإن أهلها صالحوه على إنصاف منازلهم وكنائسهم، وكان المتولي لذلك شرحبيل بن حسنة.
وقد كان الروم لما بلغهم إقبال أبي عبيدة تحولوا إلى فحل، فعبأ أبو عبيدة المسلمين، فجعل على ميمنته معاذ بن جبل، وعلى ميسرته هاشم بن عتبة، وعلى الرجالة سعد بن زيد، وعلى الخيل خالد بن الوليد. وأقبلت الروم، فكان أول من لقيهم خالد فهزم الله الروم، وطلبوا الصلح على أن يؤدوا الجزية، فأجابهم أبو عبيدة إلى ذلك، وانصرف، وخلف عمرو بن العاص على باقي الأردن، ووجه بخالد على مقدمته إلى بعلبك وأرض البقاع، فافتتحها وصار إلى حمص، ولحقه أبو عبيدة، فحصروا أهل حمص حصارًا شديدًا، ثم طلبوا الصلح، فصالحهم عن جميع بلادهم على أن عليهم خراجًا مائة وسبعين ألف دينار، ثم دخل المسلمون المدينة، وبث أبو عبيدة عماله في نواحي حمص.
ثم أتاه خبر ما جمع طاغية الروم من الجموع في جميع البلدان، وبعثه إليهم من لا قبل لهم به، فرجع إلى دمشق، وكتب إلى عمر بن الخطاب بذلك، وكتب إليهم عمر أنه قد كره رجوعكم من أرض حمص إلى دمشق، وجمع أبو عبيدة إليه المسلمين، وعسكر باليرموك، وكان جبلة بن الأيهم الغساني على مقدمة الروم في جيش من قومه، وجعل أبو عبيدة خالد بن الوليد على مقدمته، فواقع المشركين، ولقي ماهان صاحب الروم، واقتتلوا قتالًا شديدا، ولحقه أبو عبيدة والمسلمون، وكانت وقعة جليلة الخطب، فقتل من الروم مقتلة عظيمة وفتح الله على المسلمين، وكان ذلك في سنة خمس عشر.
وأوفد أبو عبيدة إلى عمر وفدا فيهم حذيفة بن اليمان، وقد كان عمر أرق عدة ليال، واشتد تطلعه إلى الخبر، فلما ورد عليه الخبر خر ساجدا وقال: الحمد لله الذي فتح على أبي عبيدة، فو الله لو لم يفتح لقال قائل: لو كان... خالد بن الوليد.
ورجع أبو عبيدة إلى حمص ووجه بخالد في آثار الروم حتى صار إلى قنسرين. وانتهى إلى حلب، فتحصن أهلها، وجاء أبو عبيدة حتى نزل عليها، وطلبوا الصلح والأمان، فقبل أبو عبيدة ذلك منهم، وكتب لهم أمانًا، ووجه بمالك بن الحارث الأشتر على جمع إلى الروم، وقد قطعوا الدرب، فقتل منهم مقتلة عظيمة، ثم انصرف وقد عافاه الله وأصحابه.
ورجع أبو عبيدة نحو الأردن، فحاصر أهل إيلياء، وهي بيت المقدس، فامتنعوا عليه وطاولوه، ووجه أبو عبيدة عمرو بن العاص إلى قنسرين، فصالحهم أهل حلب، وقنسرين، ومنبج، ووضع عليهم الخراج على نحو ما فعل أبو عبيدة بحمص، وجمعت غنائم اليرموك بالجابية، وكتبوا إلى عمر، فكتب إليهم: لا تحدثوا فيها حدثًا، حتى تفتحوا بيت المقدس.
وكان جبلة بن الأيهم الغساني لما انهزمت الروم من اليرموك صار إلى موضعه في جماعة قومه، فأرسل إليه يزيد بن أبي سفيان أن اقطع على أرضك بالخراج وأداء الجزية، فقال: إنما يؤدي الجزية العلوج، وأنا رجل من العرب.