وقد مست الحاجة إلى فصل القضاء عن مهام الخلافة في عهد عمر بن الخطاب،واحتاج الأمر كذلك إلى فصل القضاء عن الولاية على الأمصار،فقفد اتسعت الدولة اتساعا كبيرا،وازدادت المسئوليات التى يحملها الخليفة والولاة،وأصبح من الضروري أن يتفرغ للفصل في الخصومات شخص بعينه،يستقل بهذه المسئولية،فجعل عمر أبا الدرداء قاضيا على المدينة،وولى شريحا قضاء البصرة،وأبا موسى الأشعري قضاء الكوفة،وقيس بن أبي العاص قضاء مصر،وكثيرا ما كان عمر يستعين بعلي بن أبي طالب في القضاء،خاصة في المسائل الغامضة،وكان يضرب به المثل في ذلك فيقول:"مسألة ولا أبا حسن لها". ومن مآثر أمير المؤمنين الفاروق أنه استقى من روح الإسلام وتشريعاته السمحة دستورا للقضاء لخصه في كتاب بعث به إلى أبي موسى الأشعري في البصرة.

وقد استمرت الأمور على هذه الصورة في عهد عثمان بن عفان،ثم جاء الخليفة الرابع علي فاشتهر بالنظر في المظالم،وهى القضايا التي لا يتبين فيها وجه الحق بيسر،ولا يريد أحد الطرفين أن يعطي الحق من نفسه،وكذلك القضايا التي يكون الولاة والمسئولون طرفا فيها،وقد سبق عمر إلى النظر في هذا النوع من القضايا. وبلغ إنصاف القضاء وعدله في أيام أمير المؤمنين علي أن حكم القاضي على الخليفة نفسه لصالح خصم له من أهل الكتاب حين لم يأت الخليفة - وهو صاحب الحق - ببينة على دعواه!

القلب الطاهر الزكي والعقل الفطن الذكي،لابد لهما من ذراع قوية تحمى وتحفظ وتُرهب وتخوّف،وقد نهض الجيش في عهد الخلفاء الراشدين بدور عظيم في حفظ هيبة الدين والدفاع عنه وتبليغ الدعوة إلى الناس..

وكان العنصر العربي هو الغالب على تكوينات الجيش حينئذ،وشارك من أسلم من الفرس والروم في بعض الحروب،كما حدث في فتح السوس وفتح تستر.

لقد كان الجيش في عهد الراشدين مجتمعا كاملا،فيه العالم والعامل،وسيد قومه وعبيدهم،ولذلك كانت هذه الجيوش نواة لسكان المدن والمعسكرات التى أمر الراشدون بتشييدها،مثل الكوفة والبصرة والفسطاط.

وتولى الخليفة بنفسه تسيير الجيوش وتوجيهها إلى الجهات،واستعان في حشد قواته بعماله وولاته على أقاليم الجزيرة العربية خاصة،كما فعل أبو بكر عند إرساله لجيوش الشام،وفعل عمر عند الإعداد للقادسية. وتولى الخليفة أيضا اختيار قادة الجيوش،وإن خضع ذلك لاستشارة أولي الرأي والفقه،وفي بعض الأحيان كان القائد العام يجرد من جيشه الكبير جيشا صغيرا يؤدي مهمة من مهمات الفتح،ويختار له قائدا دون الرجوع إلى الخليفة. وقد اشتهر في عهد الراشدين عدد كبير من أشهر قادة الحرب في التاريخ.