سكن بغداد إلى حين وفاته.
أخبرنا التنوخي، قال: سَمِعْتُ أبا الحسن أَحمد بن يوسف الأزرق يقول: سَمِعتُ أبا هاشم الجبائي يقول سألني بعض أصحابنا عن مسألة فأجبته عنها فقال لي: يا أبا هاشم لا تظنني لم أكن أعرف هذا، فقلتُ له: الصاحي بموضع رجلي السكران أعرف من السكران بموضع رجلي نفسه يعني أن العالم أعلم بمقدار ما يحسنه الجاهل من الجاهل بقدر ما يحسن.