كانت له معرفةٌ تامةٌ بالفقه والأدب، وله خط حسن. تفقه بالمدرسة النظامية، وصار أحد المعيدين بها. وكان حسن الكلام في المناظرة والفتوى، وله شعرٌ جيدٌ.
سمع الحديث من القاضي أبي الفضل محمد بن عمر الأرموي، وأبي الوقت السجزي وغيرهما. وروى القليل لأنه مات شابًا. وكان مترشحًا لقضاء القضاة أو التدريس بالمدرسة النظامية، فاخترمته المنية قبل بلوغ الأمنية. وكان يتولى إشراف الوقف على النظامية.
أنشدني أبو محفوظ معروف بن مسعود بن علي المقرئ لفظًا، قال: أنشدني أبو الحسن علي بن الحسن ابن الرميلي الفقيه لنفسه، رحمه الله وإيانا:
وليس عجيبًا أن تدانت منيةٌ ... لحي ولكن العجيب بقاؤه
ومن جمع أضدادٍ نظام وجوده ... فأوجب شيءٍ في الزمان فناؤه
فسبحان من لا يعتريه تغيرٌ ... ومن بيديه نقضه وبناؤه
توفي ابن الرميلي يوم الجمعة العشرين من جمادى الأولى سنة تسع وستين وخمس مئة.
قال صدقة بن الحسين في (( تاريخه ) ): وصلي عليه بجامع القصر بعد الصلاة، ودفن بالمقبرة المعروفة بالوردية بالجانب الشرقي. وكان شابًا حسنًا، وكان يترشح للتدريس بالنظامية والقضاء.