وقال الخطيب: حدث أَبُوزيد ببغداد، ثم جاور بمكة، وحدث هناك بالصحيح, وهو أجل من رواه.
قلت: جاور بمكة سبعة أعوام.
سُمع أَبُوزيد يقول: كنت نائما بين الركن والمقام، فرأيت النبي صلى الله عليه وسلم فقال: يا أبا زيد إلى متى تدرس كتاب الشافعي ولا تدرس كتابي؟ فقلت: يا رسول الله وما كتابك؟ قال: جامع محمد بن إسماعيل، يعني البخاري.
وكان فقيرًا يقاسي البرد ويتكتم ويقنع باليسير.
أقبلت عليه الدنيا في آخر أيامه، فسقطت أسنانه، فكان لا يتمكن من المضغ، فقال: لا بارك الله في نعمة أقبلت حيث لا ناب ولا نصاب، وعمل في ذلك أبياتًا.
توفي بمرو في رجب سنة إحدى وسبعين وثلاث مئة (371 وله من العمر سبعون سنة) .