فقال: ما تشهدون أن أمير المؤمنين أبا العباس قال: من خرج إلى مروان فهو ولي عهدي فشهدوا له بذلك. وبايعوا وبايع أكثر أهل الشام له وكتب إلى عيسى بن علي وغيره يعلمهم مبايعة من قبله من القواد وأهل الشام له بصحة عهد أبي العباس إليه وتوجه يريد العراق فلما صار إلى حران وافى موسى ابن كعب عاملًا بها فعرفه شهادة من أشهد الله أن أبا العباس جعله ولي عهده فلما تحصن بها حاصره أربعين يومًا ثم أعطاه الأمان على أن يخرج عنها ويخلي بينه وبينها وتوجه يريد العراق.
فقدم أبو جعفر الكوفة غرة المحرم فنزل الحيرة وصلى بالناس الجمعة ثم شخص إلى الأنبار إلى مدينة أبي العباس فضم إليه أطرافه وخزائن أبي العباس وبلغه أمر عبد الله بن علي وتوجهه إلى العراق فقال لأبي مسلم: ليس لعبد الله ابن علي غيري أو غيرك. فكره أبو مسلم ذلك وقال: يا أمير المؤمنين! إن أمر عبد الله بالشام أقل وأذل وأمر خراسان أمر يجل خطبه ثم انصرف أبو مسلم إلى منزله وقال لكاتبه: ما أنا وهذان الرجلان. ثم قال: ما الرأي إلا أن أمضي إلى خراسان وأخلي بين هذين الكبشين فأيهما غلب وكتب إلينا كتبنا إليه: سمعنا وأطعنا فرأى أنا قد أنعمنا وعملنا له عملًا. فقال له كاتبه: أعيذك بالله من أن تمكن أهل خراسان من الطعن عليك وأن يروا أنك نقضت أمرًا بعد تأكيده. فقال: ويحك إني نظرت فيمن قتلت بالسيف صبرًا سوى من قتل في المعارك فوجدتهم مائة ألف من الناس فلا قليل من الله.
فلم يزل به كاتبه حتى أجاب أبا جعفر إلى الخروج وعسكر في خلق عظيم ثم سار حتى صار إلى الجزيرة، فواقع عبد الله بن علي عدة وقائع، وكان حميد بن قحطبة الغالب على أمر عبد الله بن علي، ثم بلغه أن عبد الله يريد قتله، فاحتال حتى صار إلى أبي مسلم، فعظم ذلك على عبد الله بن علي، وخاف أن يفعل بنظرائه من قواد خراسان الذين معه مثل ذلك.
قال السندي بن شاهك: سمعت عبد الصمد بن علي يقول: إني عند عبد الله ابن علي إذ دخل حاجبه، وكان عبد الصمد مع عبد الله بن علي، فقال: رسول أبي مجرم بالباب، فقال: إيذن له، فدخل رجل كريه الوجه، قبيح المنظر، كثير الشعر، طويل اللسان، عظيم الخلق، كثير حشو الخفنان، فسلم سلامًا عامًا، ثم قال: إن الأمير أبا مسلم يقول: علام تقاتلني، وأنت تعلم أنه لا يقاتلك؟ وواقع أبو مسلم عبد الله بن علي بنصيبين، وفرق جمعه، فهرب عبد الله، وأمر أبو مسلم ألا يعترضه أحد، فصار إلى البصرة إلى أخيه سليمان بن علي، وكان عامل البصرة، فلم يزل مختفيًا عنده.