بعد الانتهاء من حروب الردة, وتسيير خالد بن الوليد من اليمامة إلى العراق في سنة 13 للهجرة, جهز الصديّق الجيوش إلى الشام, فبعث عمرو بن العاص إلى فلسطين, وسيّر يزيد بن أبي سفيان إلى الشام, وأبا عبيدة بن الجرّاح, وشرحبيل بن حسنة, آمرا إياهم أن يتجهوا إلى الشام عن طريق تبوك البلقاء حتى بلاد الشام. الكامل في التاريخ ج2 ص 276.

وكان عدد كل لواء من هذه الألوية الأربعة ثلاثة آلاف, ثم توالت النجدات فيما بعد وجعل أبو بكر الصديق لكل منهم ولاية يتولاها, فصار عمرو بن العاص واليا على فلسطين, ويزيد واليا على دمشق, وعمر بن العاص واليا على حمص, وشرحبيل بن حسنة واليا على الأردن. بلغ هذا الأمر هرقل ملك الروم, وأراد أن يحارب الأمراء كل واحد على حدة حتى يهزمهم واحدًا واحدا ولكن عمرا تنبّه لذلك. لقد وجد أمامه جيشا روميا يبلغ التسعين ألفا من الجنود, فأرسل وإخوانه الأمراء إلى أبي بكر أمير المؤمنين في المدينة فأرسل أبو بكر رسالة إلى خالد بن الوليد, وقال للمسلمين في المدينة كلمته المشهورة عن خالد: (والله لأنسين الروم وساوس الشيطان بخالد بن الوليد) .

وكتب أبو بكر الصديق لخالد بن الوليد وقال له: (سر حتى تأتي جموع المسلمين باليرموك) ففعل خالد ذلك سريعا وعبر الجبال بجيش المسلمين ليصل المدد مبكرا لإخوانه في الشام ولما وصل خالد إلى الشام, فرح المسلمون به, وزاد جدهم ويقينهم بالنصر, واشتد غب الروم بمجيئه, حتى اهتز ملكهم هرقل وقال عندما علم بمجيء خالد: ألم أقل لكم لا تقاتلوهم لا طاقة بكم على هؤلاء. غضب أصحاب هرقل وقالوا له: قاتل ولا تخف الناس, واقض الذي عليك. وأصبح الجو مهيئا للقتال, وقال قادة جيش الروم لملكهم هرقل: لقد أتتك العرب وجمعت لك جموعا عظيمة, وهم يزعمون أن نبيهم محمدا, أخبرهم أنهم سينتصرون على أهل هذه البلاد, ولقد جاءوك بأبنائهم ونسائهم تصديقا لمقالة نبيهم. وبث الله فيهم الرعب حتى أنهم أشاعوا أن خالدا في يده سيف منزل من السماء, أعطاه له رسول الله, فلا يقاتل به قوما إلا انتصر عليهم. واستعد الطرفان للمعركة الروم في حيرة وارتباك ورعب مما يسمعون, والمسلمون على يقين وثقة من نصر الله لهم لأنهم يتذكرون ما قاله الرسول صلى الله عليه وسلم:"أعطيت مفاتيح الشام".

بلغ عدد جيش الروم مائتين وأربعين ألف مقاتل, منهم ثمانون ألفا مقيدين بالسلاسل كي لا يفروا أثناء المعركة, والمسلمون: سبعة وعشرون ألفا وجاء خالد بتسعة آلاف ليبلغوا ستة وثلاثين ألفا تقريبا.

ووقف خالد بن الوليد بين الجنود يقول لهم: (إن هذا يوم من أيام الله, لا ينبغي فيه الفخر ولا البغي, أخلصوا جهادكم, وأريدوا الله بعملكم, فان هذا يوم له ما بعده) .

وأرسل هرقل جاسوسا من رجاله يستطلع أحوال المسلمين فعاد إليه قائلا: هم بالليل رهبان, وبالنهار فرسان, ولو سرق ابن ملكهم لقطعوا يده, ولو زنى لرجم, لإقامة الحق فيهم.

فقال القائد: لئن كنت صادقا, لبطن الأرض خير من لقاء هؤلاء على ظهرها, ولوددت أن حظي من الله أن يخلي بيننا وبينهم, فلا ينصرني عليهم, ولا ينصرهم علي.