سمع سفيان بن عُيَينَة، وَأَبا معاوية الضرير، ومُحَمد بن فضيل بن غزوان، وَأَبا أسامة وروح بن عبادة وزيد بن الحباب وعبيد بن أبي قرة وسعد بن عَبد الحميد بن جعفر، وأبو داود الحفري، وحَجاج بن محمد الأعور، ومُحَمد بن بشر العبدي وخلف بن تميم، ومُحَمد بن القاسم الأسدي وغيرهم.
رَوَى عنه أَبو حاتم الرازي، وأبو بكر بن أبي الدنيا وموسى بن هارون الحافظ وإدريس بن عَبد الكريم المقرئ، وأبو عَبد الرحمن النَّسائِيّ وأَحمد بن علي الأبار، ويَحيَى بن محمد بن صاعد في آخرين.
وكان مكثرا ثقة ثبتا صنف المسند وانتقل عن بغداد فسكن عين زربة مرابطا بها إلى أن مات.
قرأت على القاضي أبي العلاء الواسطي عن يوسف بن إبراهيم الجرجاني، قال: أَخبَرنا أَبو نُعيم بن عدي، قال: حَدثنا عَبد الرحمن بن يوسف، قال: سَمِعْتُ حجاج بن الشاعر يقول رأيت إبراهيم بن سعيد الجوهري عند أبي نعيم، وأبو نُعيم يقرأ وهو نائم، وَكان الحجاج يقع فيه.