وكان عمر يتحرى العدل بين رعيته ويراقب الولاة، وكان محمد بن مسلمة أحد الصحابة المشهود لهم بالتدقيق والتحقيق مع زهد وورع يعمل لعمر مفتشًا على الولاة، والتاريخ يحفظ لعمر قوله لعمرو بن العاص عندما ضرب ابنه المصري الذي سابقه فسبقه، متى استعبدتم الناس وقد ولدتهم أمهاتهم أحرارًا - كما روى ذلك الطبري وغيره من المؤرخين وأصحاب السير في حوادث سنة 31 هـ.
وكان الوفد إذا قدموا على عمر سألهم عن أميرهم، فيقولون خيرًا، فيقول: هل يعود مرضاكم؟ فيقولون: نعم، فيقول: هل يعود العبد؟ فيقولون: نعم، فيقول: كيف صنيعه بالضعيف، وهل يجلس على بابه؟ فإن قالوا: لا، عزله.
رقة قلب عمر وحرصه على راحة رعيته:
فقد بلغ من رقة قلب عمر وحرصه على راحة رعيته البعيدة والقريبة على حد سواء، ما يسرده علينا الطبري في حوادث سنة 17 هـ عن عامل الأهواز الذي نزل جبل الأهواز، وجشم الناس المتاعب والصعاب في الاختلاف إليه، وأن عمر بعث إليه مؤنبًا اتخاذه هذا القصر في مصيف كئود يشق على من راحه، وكتب له ما نصه: أما بعد؛ بلغني أنك نزلت منزلًا كئودًا لا تؤتى فيه إلا على مشقة، فاسهل ولا تشق على مسلم ولا معاهد، وقم في أمرك على رجل تدرك الآخرة، وتصف لك الدنيا، ولا تدركنك فترة ولا عجلة، فتكدر دنياك وتذهب آخرتك.
وكتب عمر إلى أبي موسى ما أثبته الطبري وغيره، قال فيه: إنه لم يزل للناس وجوه يرفعون حوائجهم، فأكرم من قِبلك من وجوه الناس، وبحسب المسلم الضعيف من العدل أن ينصف في الحكم وفي القسم.
ويقول أبو رواحة: كتب عمر بن الخطاب إلى العمال: اجعلوا الناس عندكم في الحق سواء، قريبهم كبعيدهم، وبعيدهم كقريبهم، إياكم والرشا والحكم بالهوى، وأن تأخذوا الناس عند الغضب، فقوموا بالحق ولو ساعة من النهار.