وكان مع عبد الرحمن جماعة من قراء العراق منهم الحسن البصري، وعامر ابن شراحيل الشعبي، وسعيد بن جبير، وإبراهيم النخعي، وجماعة من هذه الطبقة، فسار إلى رتبيل صاحب سجستان، فكانت هزيمته في سنة ثلاث وثمانون، وجعل الحجاج يتلقط أصحابه ويضرب أعناقهم، حتى قتل خلقًا كثيرًا، وعفا عن جماعة منهم الشعبي وإبراهيم.
وبني الحجاج مدينة واسط في السنة التي هرب فيها ابن الأشعث، ونزلها، وقال: انزل بين الكوفة والبصرة.
ولما بلغ أصحاب ابن الأشعث أنه قد صار إلى رتبيل صاحب البلد، وأنه قد أقام عنده في أمن وسلامة، ووفى له رتبيل بما كان بينه وبينه، اجتمعوا من كل أوب بناحية زرنج، وأمروا عليهم عبد الرحمن بن العباس الهاشمي... فلقيهم بهراة، فقاتلهم، فهزمهم.
وبلغ الحجاج مكان ابن الأشعث في أربعة آلاف من أصحابه عند رتبيل، فوجه عمارة بن تميم اللخمي إلى رتبيل، وكتب معه إليه يأمره أن يوجهه إليه، وإلا وجه إليه بمائة ألف مقاتل، فلم يفعل. وكان عبيد بن أبي سبيع غالبًا على رتبيل، فنفسه ذلك ابن الأشعث، وأراد أن يمكر به ووجه إليه ليقتله، فهرب عبيد بن أبي سبيع فصار إلى عمارة بن تميم، وهو مقيم بمدينة بست، وقال: تجعلون لي شيئًا، وتصالحون رتبيل، وتكفون عنه، ويسلم إليكم ابن الأشعث. وكتب عمارة إلى الحجاج بذلك، وكتب إليه الحجاج يقول له: أجبه إلى كل ما سألك، وكتب له عهودا ختمها بخاتمه، فأخذها عمارة، وقدم بها على رتبيل، فلم يزل يرهبه مرة ويرغبه أخرى، حتى أجابه إلى أخذ ابن الأشعث، فأخذه، وقيده وجماعة معه وأخاه، وحملهم معه إلى الحجاج في الحديد، فلما صاروا بالرخج رمى ابن الأشعث بنفسه من فوق سطح، وكان معه في السلسلة رجل يقال له أبو العر، فماتا جميعًا، وكان ذلك في سنة أربع وثمانون، واحتز رأسه، فحمل إلى الحجاج، وحمله الحجاج إلى عبد الملك.
وعزم عبد الملك بن مروان على خلع أخيه عبد العزيز والبيعة لابنه الوليد بولاية العهد من بعده، وكان عبد العزيز بمصر، وكتب إلى الحجاج بأن يشخص إليه الشعبي، فأشخصه إليه فانسه وبره، وأقام عنده أيامًا، ثم قال: إني آتمنك على شيء لم آتمن عليه أحدًا. إنه قد بدًا لي أن أبايع للوليد بولاية العهد بعدي، فإذا أتيت عبد العزيز، فزين له أن يخلع نفسه من ولاية العهد، ومصر له طعمة. قال الشعبي: فأتيت عبد العزيز، فما رأيت ملكًا كان أسمح أخلاقًا منه، فإني يومًا خال به أحدثه إذ قلت له: والله، أصلح الله الأمير، أن رأيت ملكا أكمل، ولا نعمة أنضر، ولا عزا أتم مما أنت فيه، ولقد رأيت عبد الملك طويل النصب، كثير التعب، قليل الراحة، دائم الروعة، إلى ما يتحمل من أمر الأمة، ولوددت والله انهم أجابوك إلى أن يصيروا مصر لك طعمة، ويصيروا عهدهم إلى من أحبوا، فقال: ومن لي بذلك ؟ فلما عرفت ما عنده انصرفت إلى عبد الملك، فأخبرته الخبر، فخلع عبد الملك أخاه من ولاية العهد، وولى ابنه الوليد، ثم ابنه سليمان من بعد الوليد.
وقيل إن عبد الملك لم يخلعه، ولكنه توفي في تلك المدة التي هم بخلعه فيها، وقيل إن عبد العزيز سقي سما، وكان ذلك في سنة خمس وثمانون.
وولي هشام بن إسماعيل المخزومي المدينة، فضرب سعيد بن المسيب ستين سوطا ظلما وعدوانا، وطاف به، فكتب إليه عبد الملك يلومه، وساءت سيرة هشام بن إسماعيل، وأظهر العداوة لآل رسول الله.
وكان الغالب على عبد الملك روح بن زنباع الجذامي، وعلى شرطته يزيد ابن أبي كبشه السكسكي، ثم عزله واستعمل عبد الله بن يزيد الحكمي، وكان على حرسه أبو عياش الكهاني، وبعده أبو الزعيزعة مولاه، وجمع العراقين للحجاج، ومصر والمغرب لعبد العزيز بن مروان، ثم لابنه عبد الله ابن عبد الملك.
وكانت لعبد الملك رجله، ودهاء، وعلم، إلا أنه كان مبخلا، فلما حضرته الوفاة جمع ولده، فأوصاهم بالإجماع والألفة وترك التباغي، ثم قال: يا وليد، إذا أنا مت فشمر واتزر، والبس جلد النمر، ثم ادع الناس إلى بيعتك، فمن قال برأسه هكذا، فقل بالسيف هكذا. وتوفي للنصف من شوال سنة ست وثمانون، وكانت ولايته إحدى وعشرين سنة من يومه الذي بويع فيه بالشام، وبعد قتل ابن الزبير ثلاث عشرة سنة، وكانت سنة ستين سنة أو نيفًا وستين سنة، وصلى عليه ابنه الوليد، ودفن بدمشق.