بعد وقعة الجمل بقي أهل الشام بقيادة معاوية؛ وذلك لأن معاوية هو ابن عم عثمان، وقد أسف لقتله، وأسف أهل الشام، وصاروا يبكون بكاءً شديدًا على ما سمعوا، وعلى ما نقل إليهم من الشناعة والبشاعة، وصاروا يجتمعون في المساجد، ويقسمون أن يأخذوا بثأر عثمان مهما حصل الأمر، فعند ذلك جمعوا جموعًا أكثر من مائة ألف، وتوجهوا قاصدين العراق؛ لأجل مقاتلة أولئك الثوّار، واجتمعوا في موضع يقال له: صفين، وجاء علي وأهل العراق في أكثر من مائة ألف، وجاء هؤلاء كذلك وتقابلوا، وأرادوا أن يصطلحوا فيما بينهم، ولكن لم يحصل الاتفاق، وقد اختاروا حكمين، واختلف الحكمان، ونشبت الحرب بينهم واستمرت أيامًا، منها ليلة شديدة القتال تسمى ليلة الهرير، وبعدما كاد أهل العراق أن ينتصروا رفع أهل الشام المصاحف وقالوا: ندعوكم إلى كتاب الله، فعند ذلك تركوا القتال، بعدما قتل عشرات الألوف من هؤلاء ومن هؤلاء، فرجع أهل الشام إلى الشام وهو متقوون، ورجع أهل العراق إلى العراق وفيهم شيء من الاختلاف والفشل، وانفصلت منهم طائفة سموا بالخوارج، وقالوا لـ علي: أنت حكمت الرجال يعني: لما اختار حكمًا من الرجال، وثاروا عليه، وهم الخوارج الذين قاتلهم علي في النهروان وقتلهم.
والحاصل: أن عليًا رضي الله عنه تمت بيعته، وكانت خلافته في العراق وفي الحجاز وفي خراسان وفي اليمن، وفي أكثر البلاد، ما عدا الشام ومصر والمغرب، فهذه كانت تحت ولاية معاوية؛ وذلك لأنه تمكّن من هذه البلاد، وكانوا يحبونه؛ لكونه ذا سيرة حسنة وجهاد، فبقي متمكسًا بهذا الأمر، ولم يزل أمر كل منهم على هذه الحال إلى أن قتل علي رضي الله عنه سنة أربعين، قتله الخارجي المشهور المسمى بـ عبد الرحمن بن ملجم.