استمرَّ القتال على أشُدِّه طَوَال الليل، وبدأت الكفَّة ترجح بشدَّة لصالح عليٍّ رضي الله عنه، وبدأت الهزيمة تدبُّ في جيش معاوية، وكان النصر وشيكًا، عندئذٍ فكَّر "عمرو بن العاص" في حيلة تُخرج جيشه من هذه المشكلة، فأشار على "معاوية" أن يرفع المصاحف، في إشارة إلى تحكيم كتاب الله فيما حدث، وذلك حتى لا يزيد القتل بين المسلمين، ففعل معاوية ذلك، ورضي عليُّ بن أبي طالب وأكثرية جيشه بأمر التحكيم، وأخرج كلا الجيشين رجلاً منهم للتحكيم، فخرج " عمرو" من جيش معاوية، و"أبو موسى الأشعري" من جيش عليٍّ، والتقى أبو موسى الأشعري وعمرو بن العاص -رضي الله عنهما- في مكان (صِفِّين)، وبدآ يفكِّران في كيفية إيجاد حلٍّ لهذه المعضلة التي ألمَّت بالمسلمين، فاتَّفقا ابتداءً على كتابة كتابٍ مبدئي يضع أُسُس التحكيم، ولن يكون هو الكتاب النهائي.

ثم ذهب كلٌّ من الحكمَيْنِ إلى كل فريق على حِدَةٍ، وأَخذا منهما العهود والمواثيق أنهما -أي الحكمين- آمنان على أنفسهما وأهليهما، وأن الأُمَّة كلها عونٌ لهما على ما يريان، وأن على الجميع أن يُطيع ما في هذه الصحيفة.

فأعطاهم القوم العهود والمواثيق على ذلك، فجلسا معًا، واتَّفقا على أنهما يجلسان للحُكْم في رمضان من نفس العام، وكان حينئذٍ في شهر صفر سنة (37هـ) وذلك حتى تهدأ نفوس الفريقين، ويستطيع كلُّ فريق أن يتقبَّل الحكم أيًّا كان، وشهد هذا الاجتماع عشرة من كل فريق، وممن شهد هذا الاجتماع عبد الله بن عباس، وأبو الأعور السُّلَمِيُّ، وحبيب بن مسلمة، وعبد الرحمن بن خالد بن الوليد. وخرج الأشعث بن قيس، والأحنف بن قيس رضي الله عنهما، وهما من فريق عليِّ بن أبي طالب، وقرأ الأشعث بن قيس الكتاب على الفريقين، فوافق الجميع على هذا الأمر، وبدءوا في دفن الشهداء والقتلى.

كادت الفتنة بهذا الرأي الأخير حول التحكيم وتهدئة الأوضاع الثائرة أن تنتهي، إلا أن فرقة من جيش عليٍّ، لما رجعت إلى الكوفة أخذت تُردِّد "أتحكِّمون الرجال في دين الله؟" وأعلنوا غضبهم من أمر التحكيم.

لما عاد عليُّ بن أبي طالب إلى الكوفة، سمع رجلاً يقول: ذهب عليٌّ ورجع في غير شيء!! وفي هذا لوم له على أمر التحكيم.

فقال عليٌّ: لَلَّذِين فارقناهم خيرٌ من هؤلاء، وبلغ عددُ مَن يردِّد كلمة: "لا نحكِّم الرجال في دين الله، ولا حكم إلا لله"، اثني عشر ألف رجل، وكان أكثرهم من حفظة القرآن الكريم، وسُمُّوا بالخوارج لأنهم خرجوا عن طاعة أمير المؤمنين علي بن أبي طالب.

فلم يكن من عليِّ إلا أن ذهب إليهم ليحاورهم، ويردَّهم بالتي هي أحسن، وناقشهم فيما أخذوه عليه، ثم أرسل إليهم حَبر الأُمَّة "عبد الله بن عباس"، فلما دار هذا الحوار بين عبد الله بن عباس وبينهم على مدار ثلاثة أيَّام، رجع منهم أربعة آلاف وتابوا على يديه، وعادوا معه إلى الكوفة، فكانوا مع عليِّ بن أبي طالب، أما الباقون الذين عاندوا ولم يرجعوا عمَّا هم عليه فقد ظلُّوا يتردَّدون على الكوفة، ويتردَّد عليهم رسلُ عليِّ بن أبي طالب لإقناعهم، دون جدوى.

ومع مرور الوقت، وقرب عقد المجلس الذي سيتمُّ فيه التحكيم، بدأ هؤلاء يتعرَّضون لعليِّ بما لا يليق، وخرجوا عن دائرة النقاش المهذَّب، وبدءوا بالسباب والشتائم، وعليٌّ يصبر عليهم، ويردُّ عليهم بالتي هي أحسن تجنُّبًا للفتن، واستمرَّ الوضع هكذا حتى قام له رجل منهم، وهو يخطب، فقال له: يا عليُّ، أَشْرَكْتَ الرجالَ في دين الله، ولا حكم إلا لله. وتنادَوْا من كل جانب: لا حكم إلا لله.

فقال علي بن أبي طالب: هذه كلمة حقٍّ أُريد بها باطل. ثم قال: إن لكم علينا ألاّ نمنعكم فيئًا ما دامت أيديكم معنا، وألا نمنعكم مساجد الله، وألا نبدأكم بقتال حتى تبدءونا.

ثم بدءوا يُعرِّضون بتكفير عليِّ بن أبي طالب، فقابله رجلٌ منهم يومًا، وقال له: يا عليُّ، لئن أشركت ليحبطَنَّ عملك، ولتكونَنَّ من الخاسرين. فقرأ علي بن أبي طالب قول الله تعالى: {فَاصْبِرْ إِنَّ وَعْدَ اللهِ حَقٌّ وَلاَ يَسْتَخِفَّنَّكَ الَّذِينَ لاَ يُوقِنُونَ} [الروم:60].

ثم اعتزل هؤلاء القوم الكوفة بالكلية، ولجئوا إلى مكان يُسمَّى النهروان، ومكثوا فيه، ولم يدخلوا الكوفة بعد ذلك، ومكث الخوارج في النهروان بعيدًا عن الكوفة، وفي هذا التوقيت كان جيش الشام مستقرًّا دون خلاف مع معاوية بن أبي سفيان.

جاء شهر رمضان سنة (37هـ)، فأرسل عليُّ إلى دومة الجندل 400 فارس، معهم أبو موسى الأشعري، وعبد الله بن عباس رضي الله عنهما، وأمَّر عبدَ اللهِ بنَ عبَّاسٍ على الصلاة. وأرسل معاوية  400 فارس إلى أرض دُومَة الجندل، معهم عمرو بن العاص، وكان معهم من رءوس الناس عبد الله بن الزبير بن العوام رضي الله عنهما، والمغيرة بن شعبة، وكان معهم أيضًا عبد الله بن عمر بن الخطّاب رضي الله عنهما، ولم يكن مع معاوية في القتال، ولكنه كان ممن اعتزل الفتنة، وإن كان يرى أن عليًّا على الحقِّ، وإنما كان حينئذٍ في الشام، فجاء مع الوفد الذي أرسله معاوية للتحكيم. وقد تمَّ اختيار دُومَة الجندل للتحكيم لأنها تقع في مسافة متوسِّطة بين الكوفة، والشام فهي على بُعْد تسع مراحل من كلٍّ منهما.

وتجمَّع المسلمون على اتِّفاق خلاصته أنهم سيلتقون تارة أخرى في العام المقبل بدُومَة الجندل، وحتى هذا العام يظلُّ لكل من عليٍّ ومعاوية رضي الله عنهما ما تحت أيديهم من بلاد المسلمين، إلا أن الخوارج لم يَرُقْهم هذا الأمر، ولم يرضَوْا بالتحكيم، بل اشتدَّ أمرهم وخطرهم أكثر، وبلغ بهم الأمر لدرجة تكفير أمير المؤمنين علي بن أبي طالب واستباحة دمه، هو وكل مَن رضي بالتحكيم.

جمَّع الخوارج قواهم في مكان يُسمَّى النهروان، وقرَّروا الخروج إلى المدائن في شمال شرق الكوفة، لكنهم غيَّروا وجهتهم لقوَّة المدائن ومَنْعَتِها واتَّجهوا إلى مكان آخر قريب من الكوفة، وبدءوا يعيثون في الأرض فسادًا فيقطعون الطرق، ويقتلون المسلمين بحجة أن من رضي بالتحكيم فهو كافر مرتدٌّ يجب قتله، وقتلوا عبد الله بن خباب بن الأرتِّ، وقتلوا زوجته مع أنها كانت حاملاً.

فلما زاد فُحشهم وكثرت جرائمهم قرَّر عليُّ بن أبي طالب أن يقاتلهم، فخرج لهم بجيش كبير، ولكنه قبل أن يدخل معهم في قتال أراد أن يجنِّب المسلمين شرَّ القتال بعد ما حدث في موقعتي الجمل وصفِّين، التي قُتِلَ فيهما أعداد كبيرة من المسلمين، فأرسل إليهم مَن يدعوهم للعودة إلى طاعة أميرهم، يحكم بينهم فيَقْتُل مَنْ قَتَل أحدًا من المسلمين، ويعفو عن مَنْ لم يقتل، ولكنهم لم يرتدعوا، ولم يتراجعوا، بل أصرُّوا على موقفهم، وكان عددهم لا يتجاوز أربعة آلاف رجل، وبدأ القتال بين الفريقين، وثبتوا ثباتًا عجيبًا حتى قُتل منهم ستمائة، وجُرح أربعمائة، وبعد انتهاء المعركة سريعًا، سلَّم علي بن أبي طالب الأربعمائة إلى ذويهم ليداووهم، وردَّ أسلابهم، وأعطاهم فرصة أخرى للتوبة، وسُمِّيت هذه المعركة معركة النهروان (38هـ).

أما في الشام فكان الوضع مختلفًا فجيش معاوية يطيعه تمامًا، ولم يكن هناك أي حالة خروج عليه، كأن هذا ابتلاء من الله تعالى لعلي بن أبي طالب.