حدث بدمشق وبمصر عن يوسف بن يعقوب القاضي، ومُحَمد بن يَحيَى بن سليمان المروزي وإبراهيم بن هاشم البغوي أحاديث مستقيمة.
رَوَى عنه تمام بن محمد الرازي، وأبو محمد بن النحاس المصري وغيرهما.
حدثني عَبد العزيز بن أَحمد الكتاني قال وجدت بخط تمام بن محمد الرازي توفي أَبو بكر محمد بن علي الرماني البغدادي في سنة اثنتين وخمسين وثلاث مِئَة.
قلت: وذكره أَبو الفتح بن مسرور البلخي وقال: كان فيه بعض اللين.