فبدأ يعد العدة، فقال: جيش أسامة يخرج، والبقية الباقية تستعد في المسجد للخروج لملاقاة المرتدين.
فخرج أبو بكر قائدًا عليهم؛ حتى يعطي للأمر أهمية، وحتى يعلم المسلمون أن القضية قضية خطيرة ومهمة، فانتصر في أول اللقاءات، ثم رجع إلى المدينة وأعد العدة وأراد الخروج، فقال له علي وكبار الصحابة: نقول لك يا أبا بكر! كما قال النبي صلى الله عليه وسلم يوم أحد: لا تفجعنا في نفسك يا أبا بكر! فلبث وجلس في المدينة مضطرًا، لكنه عقد الألوية، وأرسل الرجال في أطناب كثيرة يمنة ويسرة، وكلم خالدًا قبل أن يمضي قائلًا له: لقد سمعت النبي صلى الله عليه وسلم يقول: (نعم العبد خالد بن الوليد، نعم أخو العشيرة خالد بن الوليد، سيف من سيوف الله سله الله على الكفار) ، فخرج خالد وقد دوى في أذنه صدى هذه الكلمات العظيمة.
ولقد اجتمعت فلول المرتدين وقوي شأنها وردت من ردت من فلول المسلمين، وكان أكبر تجمع للمرتدين في أرض اليمامة وهم قوم مسيلمة الذي ادعى النبوة كاذبًا عليه من الله ما يستحق، وكان قد جمع أكثر من أربعين ألف رجل، فتصدت له بعض جيوش المسلمين فردهم على أعقابهم، فقال أبو بكر: ليس لها إلا البطل خالد رضي الله عنه وأرضاه، فالرجال يعرفون في الأزمات، قال الله جل في علاه: {فَإِذَا عَزَمَ الأَمْرُ فَلَوْ صَدَقُوا اللَّهَ لَكَانَ خَيْرًا لَهُمْ} [محمد:21] .