بويع له بالخلافة يوم مات أبو بكر، وكان أول كلام تكلم به حين صعد المنبر أن قال: اللهم إني شديد فليني، وإني ضعيف فقوني، وإني بخيل فسخني. أيها الناس، القوي عندي ضعيف حتى آخذ منه الحق، والضعيف عندي قوي حتى آخذ له الحق. وهو أول خليفة دعي بأمير المؤمنين، وأول من وضع التاريخ بعام الهجرة: وضعه في السنة السابعة عشرة، وهو أول من جمع الناس على إمام واحد في قيام رمضان، وأول من حمل الدرة لتأديب الناس، وكان نقش خاتمه"كفى بالموت واعظا يا عمر"وحج بالناس عشر حجج متواليات، وحج بأزواج النبي صلى الله عليه وسلم في آخر حجة حجها.
وكان في أيامه فتوح الأمصار، منها دمشق فتحت صلحا على يد أبي عبيدة وخالد، وكان عمر قد عزل خالدا واستعمل أبا عبيدة على جميع الناس، وكان قد قدم على أبي عبيدة كتاب عمر بعزل خالد وتوليته، فاستحيا أبو عبيدة أن يقرئه الكتاب، فلما فتحت أظهر أبو عبيدة ذلك.
ثم فتح الله الروم وطبرية وقيسارية وفلسطين وعسقلان، وسار عمر بنفسه ففتح بيت المقدس صلحا، وفتحت أيضا بعلبك وحمص وحلب وقنسرين