ذكره العقيلي في كتاب الضعفاء فبئس ما صنع فقال جنح إلى ابن أبي دواد والجهمية وحديثه مستقيم إن شاء الله قال لي عبد الله بن أحمد كان أبي حدثنا عنه ثم أمسك عن اسمه وكان يقول حدثنا رجل ثم ترك حديثه بعد ذلك قلت بل حديثه عنه في مسنده وقد تركه إبراهيم الحربي وذلك لميله إلى أحمد بن أبي داود فقد كان محسنا إليه وكذا امتنع مسلم من الرواية عنه في صحيحه لهذا المعنى كما امتنع أبو زرعة وأبو حاتم من الرواية عن تلميذه محمد لأجل مسألة اللفظ وقال عبد الرحمن بن أبي حاتم كان أبو زرعة ترك الرواية عن علي من أجل ما كان منه في المحنة ووالدي كان يروى عنه لنزوعه عما كان منه قال ابو حاتم كان ابن المديني علما في الناس في معرفة الحديث والعلل وكان أحمد لا يسميه إنما يكنيه تبجيلا له ابن ناجية وغيره قالوا حدثنا أبو رفاعة عبد الله بن محمد العدوي حدثنا إبراهيم بن بشار سمعت ابن عيينة يقول حدثني علي بن المديني عن أبي عاصم عن ابن جريج عن عمرو بن دينار فذكر حديثا ثم قال سفيان يلومني على حب علي والله كنت أتعلم منه أكثر ما تعلم مني قال عباس العنبري كان ابن عيينة يسمي ابن المديني حية الوادي وقال روح بن عبد المؤمن سمعت ابن مهدي يقول ابن المديني أعلم الناس بالحديث وقال عبيد الله القواريري سمعت يحيى القطان يقول يلومونني في حب علي بن المديني وأنا أتعلم منه قال أحمد بن سعيد الرباطي قال ابن المديني ما نظرت في كتاب شيخ فاحتجت إلى السؤال به عن غيري وقال أبو العباس السراج سمعت أبا يحيى يقول كان ابن المديني إذا قدم بغداد تصدر وجاء يحيى وأحمد بن حنبل والمعيطي والناس يتناظرون فإذا اختلفوا في شيء تكلم فيه علي