واتخذ عليّ رضي الله عنه الكوفة عاصمة للخلافة بعد أن عزل ولاة عثمان ثم طالب معاوية بن أبي سفيان الذي كان وقتئذ واليًا على الشام بدم عثمان وعلق قميصه الذي قتل فيه وأصابع زوجته نائلة بجامع دمشق، يريد بذلك إثارة عواطف المسلمين على عليّ وطلب منه أن يسلم إليه قتلة عثمان، وعلى ذلك اشتد النزاع بينهما، والتقى الجيشان بصفين شمال الرقة على ضفة الفرات الغربية، وكان جيش عليّ مؤلفًا من 50000 مقاتل من أهل العراق، وخرج معاوية بأهل الشام واستمرت المناوشات بينهما عدة أسابيع وكانت الموقعة الختامية في 26 يوليو سنة 657م وقائد جيش عليّ مالك الأشتر، وبينما كان هذا الجيش على وشك الانتصار، اقترح عمرو بن العاص رفع المصاحف، فرفعت على سنان الرماح ولوّح بها في الهواء أمام جيش عليّ وطلبوا تحكيم القرآن، فوقف القتال وتباحث الفريقان في هذه المسألة، واضطر عليّ إلى قبول التحكيم تجنبًا لإراقة الدماء، فاختار معاوية عمرو بن العاص حكمًا، واختار جيش عليّ أبا موسى الأشعري رغمًا عن معارضة عليّ لهذا الاختيار لأنه كان يعلم أن أبا موسى الذي اعتزل القتال لا يصلح لهذه المهمة، وانتهى التحكيم بخلع عليّ، ولم يكن معاوية في ذلك الوقت خليفة بل كان واليًا فرفعه التحكيم إلى مستوى عليّ الذي كان خليفة المسلمين، وكان قبول التحكيم نكبة على عليّ رضي الله عنه، إذ انشق عليه كثير من أتباعه لذلك وتسموا بالخوارج وناصبوه العداوة وجندوا جيشًا منهم يبلغ 4000 وحاربوه بقيادة عبد الله بن وهب الراسبي، فاشتبك القتال بالنهروان، فأبادهم عليّ ولم ينج منهم غير قليل، وأخيرًا اغتيل عليّ رضي الله عنه، اغتاله خارجيّ يدعى عبد الرحمن بن ملجم.