وكان أصغر إخوته. سمع موسى بن جعفر بن عرفة وعليّ بن عمر السكري، وَأَبا الحسن الدَّارَقُطني وابا القاسم بن حبابة، وعُمَر الكتاني وإبراهيم بن محمد الجلي وطبقتهم.
كتبت عنه، وَكان صدوقا يسكن درب المجوس من نهر طابق وسألته عن مولده فقال ولدت بعد أن استخلف القادر بالله بأربعين يوما.
قلت، وَكان استخلاف القادر بالله في يوم السبت الحادي عشر من شهر رمضان سنة إحدى وثمانين وثلاث مِئَة.
ومات أَبو يَعلَى في يوم الخميس الرابع والعشرين من شوال سنة ثمان وثلاثين وأربع مِئَة ودفن من يومه بباب الدير قريبا من قبر معروف الكرخي.