لما قتل إبراهيم بن محمد الكامل مروان، ووصل خبره إلى الكوفة، فإن أبا سلمة بن خلال الذى كان داعية دولته كان قد بايعه تأثرا بوفاته، ولما وصل السفاح وأقرباؤه الآخرون إلى الكوفة، أخفاهم أبو سلمة، وأراد أن يجعل الخلافة في أبناء على بن الحسين بن على (كرم اللّه وجهه) ؛ لأنهم هم أول من دعا في البداية، فكتب أبو سلمة ثلاث رسائل، أولها إلى جعفر الصادق، والثانية إلى عبد اللّه بن الحسين، والثالثة إلى عمر بن على بن الحسين، وسلمهم إلى أحد خواصه، وقال: احمل هذه الرسائل، وامض أولا إلى جعفر، فإذا قبل فمزق الرسالتين الأخرتين، وإذا لم يقبل امض إلى عبد الله، وكذلك امض لعمر وجئنى بالجواب سريعا.
فمضى الرسول إلى المدينة، ورأى جعفرا ذات ليلة فأعطاه الرسالة، ولما قرأها صمت طويلا، فقال الرسول: أجب، فطرح جعفر الرسالة في النار وأحرقها.
فمضى الرسول إلى عبد اللّه بن الحسين، وسلمه الرسالة فقبلها وأراد أن يكتب الجواب، فمنعه جعفر من هذا، وقال: إن أبا سلمة خادع ماكر وسوف يقتل بسرعة، ولعله يخدعك من أجل أنه هيأ لهم أن هذا الأمر يصل إلى بنى العباس، وتكون الخلافة في أسرتهم، فعاد الرسول بلا جواب من عندهم، وقبل وصوله أخرج حميد بن قحطبة أبا العباس من قصر أبى سلمة، وأسند إليه الخلافة.
لما أفضت الخلافة إلى العباس، أسند الوزارة إلى حميد بن قحطبة، وقدم إلى عمه أبى عبد اللّه بن على ستون ألف رجل، وأرسله لمحاربة مروان في الشام فمضى وحاربه وهزمه، ويقولون: كان يجرى على لسان مروان في تلك الحال هذا الكلام:
إذا انتهت المدة لم تنفع العدة، وقتل مروان على يد عبد اللّه بن على، وانتهت دولة آل مروان.
يقولون: حينما جعل أبو العباس مفتاح الخلافة في يده، كان سبب التريث والتمهل الذى أبداه أبو سلمة الخلال فيما يتعلق بشأنهم، فخشى أن يظهر أحدا من السادات الحسينيين ويصبح سبب الفتنة، فأراد أن يدفعه واستشار حميدا وأخاه، فقال حميد: لا ينبغى أن نقوم بهذا العمل بغير مشورة أبى مسلم، فأرسل أخاه إلى