ومن الملاحظ أن تلك الفترة كانت شهدت بداية سلسلة من الشكاوي ضد بعض عمال عثمان في مصر وبعض البلاد الأخرى، وقد استفاد من ذلك الأمر وتلك الظروف عبد الله بن سبإ فائدة كبيرة، فبدأ يقول: إن الأمر بالمعروف والنهي عن المنكر وإصلاح الفساد الظاهر في الأمة واجب وفرض على كل مسلم، ولهذا يجب أن ننهض لنصلح هذا الفساد الذي أوجده عثمان وعماله في الأمة، ويجب أن نبذل ما في استطاعتنا وما في وسعنا للقضاء عليه.
كل هذا قام به عبد الله بن سبإ بذكاء خارق وسرية تامة وبفطرته اليهودية التي تتسم بالمكر والخداع، ومضت حركته في سرية تامة تحت باطن الأرض، وكون خلية سرية، وأوجد أتباعًا له في مصر وبعض البلاد الأخرى...
وحان الوقت الذي استعد فيه مع من معه ومع الجهلة البسطاء لرفع راية العصيان ضد عثمان ?، فخطط لبرنامج يتم تنفيذه على مراحل سرية، ينتهي بالوصول مع أصحابه في يوم معين في شكل تجمهر وفي شكل عسكري إلى المدينة المنورة، وحدث هذا بالفعل، ووصل عبد الله بن سبإ مع أتباعه من الباغين العصاة المضللين في جيش كامل إلى المدينة المنورة.
ولا ضرورة لنذكر هنا ما حدث بعد ذلك فالجميع يعرفه، ولو سمح عثمان ? الذي كان يحكم أكبر حكومة في العالم آنذاك باستخدام القوة ضد هؤلاء المتمردين لما حدث ما حدث، إلا أنه لم يشأ أن يستخدم القوة، أو أن يسكب قطرة دم واحدة ليحافظ على حياته، وفضل أن يستشهد ـ ظلمًا ـ وينتقل إلى الرفيق الأعلى، فقدم مثالا على التضحية لا مثيل له في العالم ( ) ، ? وأرضاه.
ووسط هذا الجو الدامي انتخب علي ? خليفة رابعًا للمسلمين، وكان بلا شك خليفة على حق، فلم تكن في الأمة الإسلامية شخصية تماثل شخصيته، يمكن ترشيحها لهذا المنصب، إلا أنه نتيجة لشهادة عثمان، أو فلنقل تقدير الله، انقسمت الأمة المسلمة على نفسها إلى جماعتين.