بيت منامه وانصرف الندماء فدعاه مؤيد الدولة في السحر فلم يشك انه لمهم فقبض عليه وانفذ الى داره من أخذ جميع ما فيها وتطاولت به النكبة حتى مات فيها ثم عاد ابن عباد الى وزارة مؤيد الدولة ثم وزر لأخيه فخر الدولة فبقى في الوزارة ثمانية عشر سنة وشهور ( وفتح خمسين قلعة سلمها الى فخر الدولة لم يجتمع منها الى ابيه وكان الصاحب عالما بفنون من العلوم كثيرة ) لم يقاربه في ذلك وزير وله التصانيف الحسان والنثر البالغ وجمع كتبا عظيمة حتى كان يحتاج نقلها على اربعمائة حمل وكان يخالط العلماء والادباء ويقول لهم نحن بالنهار سلطان وبالليل اخوان وسمع الحديث واملى وروى ابو الحسن على بن محمد الطبرى المعروف بكيا قال سمعت ابا الفضل زيد بن صالح الحنفى يقول لما عزم الصاحب اسمعيل بن عباد على الاملاء وكان حينئذ في الوزارة خرج يوما متطلسا متحنكا بزى اهل العلم فقال قد علمتم قدمى في العلم فاقروا له بذلك فقال وانا متلبس بهذا الامر وجميع ما انفقته من صغرى الى وقتى هذا من مال أبى وجدى ومع هذا فلا أخلو من تبعات اشهد الله واشهذكم أنى تائب الى الله من كل ذنب أذنبته واتخذ لنفسه بيتا وسماه بيت التوبة ولبث اسبوعا على ذلك ثم اخذ خطوط الفقهاء بصحة توبته ثم خرج فقعد للإملاء وحضر الخلق الكثير وكان المستملى الواحد ينضاف اليه ستة كل يبلغ صاحبه فكتب الناس حتى القاضى عبد الجبار وكان الصاحب ينفذ كل سنة الى بغداد خمسة آلاف دينار تفرق في الفقهاء واهل الادب وكان لا تأخذه في الله لومة لائم ويبغض من يميل الى الفلسفة واهدى اليه العميرى القاضى بقزوين كتبا وكتب معها ... العميرى عبد كافى الكفاة ... وان اعتد في وجوه القضاة ... خدم المجلس الرفيع بكتب ... مفعمات من حسنها مترعات ...
فوقع تحتها ... قد قبلنا من الجميع كتابا ... ورددنا لوقتنا الباقيات ... لست استغنم الكثير فطبعى ... قول خذ ليس مذهبى قول هات