لما انصرف عبد الرحمن إلى رتبيل من هراة قال له علقمة بن عمرو الأودي ما أريد أن أدخل معك لأني أتخوف عليك وعلى من معك والله لكأني بالحجاج وقد كتب إلى رتبيل يرغبه ويرهبه فإذا هو قد بعث بك سلما أو قتلكم ولكن معي خمسمائة قد تبايعنا على أن ندخل مدينة نتحصن بها حتى نعطى الأمان أو نموت كراما ولم ندخل إلى بلاد رتبيل معه وخرج هؤلاء الخمسمائة وجعلوا عليهم مودودا البصري وقدم عليهم عمارة بن تميم اللخمي فحاصرهم فامتنعوا حتى أمنهم فخرجوا إليه فوفى لهم وتتابعت كتب الحجاج إلى رتبيل في عبد الرحمن أن أبعث به إلي وإلا والذي لا إله غيره لأوطئن أرضك ألف ألف مقاتل وكان مع عبد الرحمن رجل من تميم يقال له عبيد بن سبيع التميمي وكان رسوله إلى رتبيل فخص برتبيل وخف عليه فقال القاسم بن محمد بن الأشعث لأخيه عبد الرحمن إني لا آمن غدر هذا التميمي فاقتله فخافه عبيد ووشى به إلى رتبيل وخوفه الحجاج ودعاه إلى الغدر بابن شعث وقال له أنا آخذ لك من الحجاج عهدا ليكفن عن أرضك سبع سنين على أن تدفع إليه عبد الرحمن فأجابه إلى ذلك فخرج عبيد إلى عمارة سرا فذكر له ما استقر مع رتبيل وما بذله له وكتب عمارة إلى الحجاج بذلك وأجابه إليه أيضا وبعث رتبيل برأس عبد الرحمن إلى الحجاج
وقيل إن عبد الرحمن كان قد أصابه السل فمات فأرسل رتبيل إليه فقطع رأسه قبل أن يدفن وأرسله إلى الحجاج وقد قيل إن رتبيل لما صالح عمارة بن تميم اللخمي على ابن الأشعث كتب عمارة إلى الحجاج بذلك فأطلق له خراج بلاده عشر سنين فأرسل رتبيل إلى عبد الرحمن وثلاثين من أهل بيته فحضروا فقيدهم وأرسلهم