وبعد وفاة النبي صَلَّى اللَّهُ عَلَيْهِ وآلِهِ وَسَلَّمَ إختلف المسلمون في الخليفة من بعده، فاجتمع الأنصار في سقيفة بني ساعدة، يتشاورون وبلغ ذلك المهاجرين فقالوا: نرسل إليهم يأتوننا، فقال أبو بكر: بل نمشي إليهم، فسار إليهم المهاجرون، منهم أبو بكر وعمر وأبو عبيدة، فتراجعوا الكلام، فتكلم أبو بكر: فقال في كلامه: نحن الأمراء وأنتم الوزراء، فقال الحباب بن المنذر: لا والله لا نفعل أبدًا، منا أمير ومنكم أمير. فقال أبو بكر: لا، ولكنّا الأمراء وأنتم الوزراء، قريش أوسط العرب دارًا وأعزهم أحسابًا فبايعوا عمر بن الخطاب أو أبو عبيدة، فقال عمر: بل نبايعك، أنت خيرنا وسيدنا وأحبنا إلى رسول الله صلى الله عليه وآله وسلم، وأخذ عمر بيده فبايعه وبايعه الناس.

ومضى عهد أبي بكر وعهد عمر رضي الله عنهما، والمسلمون على وفاق تام، فلما كان آخر عهد الخليفة عثمان رضي الله عنه، خرج عليه بعض الناس على أشياء حدثت في عهده فقتلوه.

ومما هو جدير بالذكر أن لظهور عبدالله بن سبأ وآرائه الجديدة في الوصية والإمامة والعصمة، وأن لكل نبي وصي، وإن سيدنا علي هو وصي محمد صَلَّى اللَّهُ عَلَيْهِ وآلِهِ وَسَلَّمَ، وإن عثمان مغتصب لحقه في الخلافة؛ هذه الآراء التي لم تكن معروفة من قبل كان له الأثر البالغ في تأليب الناس على عثمان رضي الله عنه.