من أهل الكوفة. وهو أخو نقيب النقباء الطاهر أبي محمد الحسن بن علي ابن الأقساسي الذي يأتي ذكره إن شاء الله، وأبو يعلى هذا كان الأسن. وكان يتولى نقابة العلويين بمشهد الحسين بن علي عليهما السلام، وكان فيه فضلٌ وأدبٌ، وله شعرٌ حسنٌ.
وقد سمع الحديث بالكوفة من أبي الغنائم محمد بن علي بن ميمون النرسي، ومن الشريف أبي البركات عمر بن إبراهيم بن حمزة العلوي الزيدي. وقدم بغداد وأقام بها مدةً، وكتب عنه بها حديث وشعرٌ وروي عنه.
قال الشيخ أبو الفرج عبد الرحمن بن علي ابن الجوزي رحمه الله: أنشدني:
رب قومٍ في خلائقهم ... غررٌ قد صيروا غررا
ستر المال القبيح لهم ... سترى إن زال ما سترا
ذكر أبو بكر عبيد الله بن علي المارستاني أن أبا يعلى ابن الأقساسي ولد بالكوفة في شهر ربيع الآخر سنة سبع وتسعين وأربع مئة، وأنه توفي ببغداد في يوم الأربعاء ثاني ذي الحجة سنة خمس وسبعين وخمس مئة وصلي عليه بالمدرسة النظامية، ودفن بالجانب الغربي بمقبرة الشونيزي، ولم يعقب.