يزيد بن خالد القسري وأبو علاقة السكسكي وأبو ذؤالة الكلبي ونظراؤهم فقال بعضهم لبعض إن بقي الغلامان ابنا الوليد حتى يقدم مروان فيخرجهما من الحبس ويصير الأمر إليهما لم يستبقيا أحدا ممن قتل أباهما قالوا أي أن تقتلهما فولوا ذلك يزيد بن خالد ومعهما في الحبس أبو محمد السفياني ويونس بن عمر فأرسل إليهما يزيد مولى لخالد يكنى أبا الأسد في عدة من أصحابه فدخل السجن فشدخ الغلامين بالعمد وأخرج يوسف بن عمر فضرب عنقه وأرادوا أبا محمد ليقتلوه فدخل بيتا من بيوت السجن فأغلقه وألقى خلفه الفرش والوسائد واعتمد على الباب فلم يقدروا على فتحه ودعوا بنار ليحرقوه فلم يؤتوا بها حتى قيل دخلت خيل مروان المدينة وهرب إبراهيم بن الوليد وتغيب وأنهب سليمان ما كان في بيت المال من المال وقسمه فيمن معه من الجنود وخرج من المدينة وثار من فيها من موالي الوليد بن يزيد إلى دار عبد العزيز بن الحجاج فقتلوه ونبشوا قبر يزيد بن الوليد وصلبوه على باب الجابية
ودخل مروان دمشق فنزل عالية وأتي بالغلامين مقتولين ويوسف بن عمر فأمر بهم فدفنوا وأتي بأبي محمد محمولا في كبوله فسلم عليه بالخلافة ومروان يسلم عليه يومئذ بالإمرة فقال له مه فقال إنهما جعلاها لك بعدهما وأنشده شعرا قاله الحكم في السجن قال وكانا قد بلغا وولد لأحدهما وهو الحكم وكان أكبرهما والآخر قد احتلم قبل ذلك بيسير فقال قال الحكم
( ألا من مبلغ مروان عني ** وعمي الغمر طال بذي حنينا )
( بأني قد ظلمت وصار قومي ** على قتل الوليد مشايعينا )
( أيذهب كلبهم بدمي ومالي ** فلا غثا أصبت ولا سمينا )
( ومروان بأرض بني نزار ** كليث الغاب مفترش عرينا )
( ألا يحزنك قتل فتى قريش ** وشقهم عصا المسلمينا )