ولقي عبد الرحمن بن ملجم شبيب بن بجرة الأشجعي فأعلمه ما يريد, ودعاه إلى أن يكون معه, فأجابه إلى ذلك، وبات عبد الرحمن بن ملجم تلك الليلة التي عزم فيها أن يقتل عليا في صبيحتها يناجي الأشعث بن قيس الكندي في مسجده, حتى كاد أن يطلع الفجر، فقال له الأشعث: فَضَحَكَ الصبح فقم، فقام عبد الرحمن بن ملجم, وشبيب بن بجرة فأخذا أسيافهما, ثم جاءا حتى جلسا مقابل السدة التي يخرج منها علي. قال الحسن بن علي: وأتيته سحرا, فجلست إليه, فقال: إني بت الليلة أوقظ أهلي, فملكتني عيناي وأنا جالس, فسنح لي رسول الله, فقلت: يا رسول الله, ما لقيت من أمتك من الأَوَد واللَّدَد، فقال لي: ادع الله عليهم، فقلت: اللهم أبدلني بهم خيرا لي منهم, وأبدلهم شرا لهم مني. ودخل ابن النباح المؤذن على ذلك, فقال: الصلاة، فأخذت بيده, فقام يمشي وابن النباح بين يديه وأنا خلفه، فلما خرج من الباب نادى: أيها الناس, الصلاة, الصلاة، كذلك كان يفعل في كل يوم يخرج ومعه درته يوقظ الناس، فاعترضه الرجلان، فقال بعض من حضر ذلك: فرأيت بريق السيف, وسمعت قائلا يقول: لله الحكم يا علي لا لك! ثم رأيت سيفا ثانيا فضربا جميعا, فأما سيف عبد الرحمن بن ملجم, فأصاب جبهته إلى قرنه ووصل إلى دماغه، وأما سيف شبيب فوقع في الطاق، وسمعت عليا يقول: لا يفوتنكم الرجل، وشد الناس عليهما من كل جانب.

فأما شبيب فأفلت، وأخذ عبد الرحمن بن ملجم فأدخل على علي، فقال: أطيبوا طعامه وألينوا فراشه فإن أعش فأنا ولِىُّ دَمي عفوٌ أو قصاص وإن أمت فألحقوه بي أخاصمه عند رب العالمين. فقالت أم كلثوم بنت علي: يا عدو الله, قتلت أمير المؤمنين! قال: ما قتلت إلا أباك، قالت: فوالله إني لأرجو أن لا يكون على أمير المؤمنين بأس، قال: فلم تبكين إذا؟ ثم قال: والله لقد سممته شهرا، يعني سيفه، فإن أخلفني فأبعده الله وأسحقه. وبعث الأشعث بن قيس ابنه قيس بن الأشعث صبيحة ضرب علي، عليه السلام، فقال: أي بني, انظر كيف أصبح أمير المؤمنين. فذهب, فنظر إليه, ثم رجع فقال: رأيت عينيه داخلتين في رأسه، فقال الأشعث: عيني دميغ ورب الكعبة، قال: ومكث علي يوم الجمعة وليلة السبت وتوفي، رحمة الله عليه وبركاته، ليلة الأحد, لإحدى عشرة ليلة بقيت من شهر رمضان سنة أربعين، وغسله الحسن والحسين, وعبد الله بن جعفر، وكفن في ثلاثة أثواب, ليس فيها قميص.