كان أبوه أحد التجار من أهل باب المراتب، وسافر في البحر، وولد ولده محمد هذا باليمن، أظنه بزييد، ونشأ معه، وعاد إلى العراق بعد وفاة أبيه، وصحب الصوفية، وأقام برباط الزوزني سنين كثيرة، ثم سكن رباط المأمونية الذي أنشأته الجهة الشريفة والدة سيدنا ومولانا الإمام الناصر لدين الله أمير المؤمنين -خلد الله ملكه ورضي عنها- مدةً إلى حين مات.
سمع ببغداد من جماعةٍ منهم: أبو القاسم عبد الرحمن بن الحسن الفارسي الصوفي، وأبو الوقت السجزي، وأبو المظفر هبة الله بن أحمد ابن الشبلي، وأبو الفتح محمد بن عبد الباقي بن أحمد بن سلمان، وأبو زرعة طاهر بن محمد المقدسي، وغيرهم. سمعنا منه.
قرأت على أبي العلاء محمد بن علي بن محمد الصوفي من أصل سماعه، قلت له: قرئ على أبي الوقت عبد الأول بن عيسى بن شعيب الصوفي قدم عليكم بغداد وأنت تسمع، فأقر به، قال: أخبرنا أبو عبد الله محمد بن عبد العزيز الفارسي بهراة، قال: أخبرنا أبو محمد عبد الرحمن بن أبي شريح الأنصاري، قال: حدثنا عبد الله بن محمد البغوي، قال: حدثنا العلاء بن موسى الباهلي، قال: حدثنا الليث بن سعد، عن أبي الزبير، عن جابر، قال: قال رسول الله صلى الله عليه وسلم: (( لا يدخل أحدٌ ممن بايع تحت الشجرة النار ) ).