ومات في رجب، سنة إحدى وعشرين وأربع مائة.
قال له بعض الشهود: يا سيدنا، فلان يذكرني بحضرتك بكذا وكذا، فقال:
ما حطك الواشون من رتبة ... عندي ولا ضرك مغتاب
كأنما أثنوا ولم يعلموا ... عليك عندي بالذي عابوا
خلف الوزارة بمدينة السلام، بلغ تسعين سنة.
مات في سنة خمس عشرة وأربع مائة.
سمعته يوما، وهو عند الحاجب راغب بن محمد، حاجب الخليفة، ومعهم الرفا، فتذاكروا فجرى ذكر أبي إسحاق الصابي، فأنشدنا له، يمدح الوزير أبا الفضل الشيرازي:
يا من بفضل نداه يعلق الأمل ... ومن بجانبه يستعصم الوجل
أنت الوزير الذي الدنيا تنادى به ... وأهلها وهو فيها بينهم رجل
وأنشدنا لأبي إسحاق الشيرازي الوزير:
أبا الفضل لا تضجر إذا الخل أصحرا ... فرسمك بالبر المهنإ قد جرا
تصفحت أبناء الزمان فلم أجد ... سواك بحاجاتي أحق وأجدرا