عهد سيدنا أبو بكر أثناء مرضه بالخلافة إلى سيدنا عمر بن الخطاب رضي الله عنهما، وكان قد استشار فيه عبد الرحمن بن عوف وعثمان بن عفان، فذكرا فضله وحمدا رأي أبي بكر. ثم ظهر أبو بكر للناس في المسجد وقال لهم: هل ترضون بمن أستخلف عليكم، فما ألوت من جهد الرأي، ولا وليت ذا قرابة.
ويروي الإمام السيوطي عن ابن عساكر أن عليا ابن أبي طالب قام فقال: لا نرضى إلا أن يكون عمر، فقال أبو بكر: هو عمر فاسمعوا له وأطيعوا، ثم أحضر أبو بكر عمر وقال له: إني قد استخلفتك على أصحاب رسول الله صلى الله عليه وسلم وأوصاه بتقوى الله. ولما توفي أبو بكر بايع الناس عمر بمن فيهم علي ابن أبي طالب، ومعه بنو هاشم رضي الله عنهم أجمعين. وتولى عليّ القضاء لعمر مدة خلافته. وزوجه ابنته أم كلثوم، وهي بنت فاطمة الزهراء بنت رسول الله صلى الله عليه وسلم. وولدت له ابنه زيدا وابنته رقية. وقد رتب الفقهاء على الطريقة التي جرى فيها استخلاف عمر قاعدة في أصول الحكم. وهي جواز انعقاد الخلافة بعهد من قبل الخليفة السابق.
امتدت ولاية عمر عشر سنين وخمسة أشهر وإحدى وعشرين ليلة، وانتهت حياته بيد أبي لؤلؤة المجوسي الذي اغتاله في فجر يوم