وأما عبد الله بن سبأ فهو يهودي من اليمن يعرف بـ"ابن السوداء"أظهر الإسلام ثم انتهج التشيع لعلي وتنقل في بلدان المسلمين يريد إضلالهم, وهو أول من وضع مبدأ الرجعة, وأنّ محمدًا - صلى الله عليه وسلم - أحق بالرجوع من عيسى عليه السلام, وهو أول من قال بالوصية وأن لكل نبي وصيًّا, وقال: علي وصي محمد, ومحمد خاتم الأنبياء, وعلي خاتم الأوصياء.

وإليه تنسب فرقة السبئية الذين قالوا بألوهية علي, وقد أظهر بعض العقائد اليهودية كالقول بالرجعة والوصي وأن الإمامة تكون في بيت واحد, كما أنه استخدم الأعراب فأخذ يشيع عندهم الأكاذيب مدّعيًا أن عثمان فعل كذا وكذا, وكتب ابن سبأ كتبًا مزورة هو ومن ساعده على أصحاب النبي - صلى الله عليه وسلم - كالزبير وطلحة وعائشة وعلي وغيرهم, فيها الإنكار على عثمان والتذمر من سياسته.

واستهدف ابن سبأ وأنصاره الولاة الصالحين, وصاروا يختلقون التهم لهم, بينما نصّبوا أنفسهم قائمين على مصالح الناس آمرين بالمعروف ناهين عن المنكر, ونجحوا بعد عمل دؤوب من المكر والكذب والخداع أن يشكلوا ما يشبه الرأي العام الساخط على عثمان وعلى ولاته, وسار هؤلاء السبئية ومن معهم من الخوارج والغوغاء والأعراب من مصر والبصرة والكوفة إلى مدينة رسول الله - صلى الله عليه وسلم - يريدون قتل خليفة المسلمين عثمان, وكان لهم ما أرادوا, فقد تمكنوا في ذي الحجة من السنة الخامسة والثلاثين للهجرة من قتله وهو شيخ كبير في الثانية والثمانين من عمره وكان في تلك اللحظة يقرأ القرآن رضي الله عنه.

وكان عثمان رضي الله عنه حريصًا على ألا تراق دماء المسلمين من أجله, وكان يطلب من الصحابة ألا يواجهوا هؤلاء المفسدين, وكان يصرفهم عن داره المحاصرة من قبل هؤلاء الغوغاء الذين استغلوا ذهاب الصحابة والمسلمين إلى الحج والأمصار.