كان قد زين للخليفة الوليد ابن عبد الملك خلع سليمان من ولاية العهد: أما وقد فارق الحجاج هذه الدنيا فقد رأى سليمان أن يشفي غيظه من أقربائه متأثرا في ذلك بنظام الثأر عند العرب. وقد أذكى نار الحقد والموجدة في صدره رجلان كلاهما قد وتره الحجاج وكلاهما كان متأثرا بالعصبية القبلية بين قيس واليمن: أحدهما يزيد ابن المهلب وكان أثيرا مكينا لدى الخليفة، والآخر صالح بن عبد الرحمن وقد ولاه سليمان خراج العراق.
عزل محمد عن السند وولى مكانه يزيد بن أبي كبشه السكسكي فأخذ محمدا وقيده وسيره إلى العراق مع رجل من بني المهلب على حال حركت قلوب أهل السند فبكوا عليه وصوره أهل الكيرج بمدينتهم التي كان منها شخوصه، وقد تلقى محمد المحنه صابرًا محتسبا ولم يكن في محنته أقل شجاعة وصبرا أو أنفة منه وقت الحرب وحين البأس. والغريب أنه على إخلاص أصحابه له وعطف السند عليه لم تحدثه نفسه بالخلاف والانتقاض. والظاهر أنه أيقن أن قد أدى واجبه وأن الحياة أصبحت بعد ذلك لغوا وفضولا لا طائل فيه. وقد جعل يسري عن نفسه بمقطوعات من الشعر ضمنها آلامه وخواطر نفسه. فمن ذلك قوله مشيرا إلى أنه لو أراد الثورة لشق على أعدائه تهضمه.
ولو كنت أجمعت القرار لوطئت ... إناث أعدت للوغى وذكور
وما دخلت خيل السكاسك أرضنا ... ولا كان من عك على أمير
ولا كنت للعبد المزوني تابعًا ... فيالك دهر بالكرام عثور
ولما صار إلى واسط حبسه صالح بن عبد الرحمن فقال:
فلئن ثويت بواسط وبأرضها ... رهن الحديد مكبلا مغلولا
فلرب قينة فارس قد رعتها ... ولرب قرن قد تركت قتيلا
وعذبه صالح في رجال من أقرباء الحجاج حتى قتلهم، فطفق الشعراء يرثون محمدا ويذكرون فضائله، فمن ذلك قول بعضهم:
أن المروءة والسماحة والندى ... لمحمد بن القاسم بن محمد
ساس الجيوش لسبع عشرة حجة ... يا قرب ذلك سؤددا من مولد
وقال آخر:
ساس الجيوش لسبع عشرة حجة ... ولداته عن ذاك في أشغال