من بيت التصوف وأولاد المشايخ.
وأبو بكر هذا كان أحد الصوفية برباط شيخ الشيوخ أبي القاسم عبد الرحيم ابن إسماعيل ببغداد. وأبو الحسن جد جده كان يخدم الصوفية بالرباط المقابل لجامع المنصور وإليه ينسب رباط الزوزني. سمع أبو بكر من جده أبي سعد أحمد، وغيره، وحدث بيسير.
قال أبو بكر بن حمزة المارستاني: كان مولده في شعبان سنة سبع وعشرين وخمس مئة.
من أهل البصرة، من بيت القضاء بها والرواية. وقد تقدم ذكر جد أبيه أبي طاهر محمد بن محمد.
ذكر أبو بكر عبيد الله بن علي البغدادي أن أبا علي هذا قدم بغداد غير مرةٍ وأنه حدث عن جد أبيه أبي طاهر ابن النهاوندي، والله أعلم.