سكن بغداد ودرس بها الفقه على أبي حامد الإسفراييني وسمع أبا طاهر المخلص ومن بعده كتبت عنه، وَكان سماعه صحيحا.
أخبرني منصور بن عمر الكرخي، قال: حَدثنا أَبو طاهر محمد بن عَبد الرحمن بن العباس المخلص إملاء، قال: حَدثنا عَبد الله بن محمد بن عَبد العزيز، قال: حَدثنا علي بن الجعد، قال: أَخبَرنا سفيان الثوري عن علي بن الأقمر، عَن أبي حذيفة عن عائشة قالت حكيت إنسانا فقال النبي صَلى الله عَليهِ وسلمَ ما يسرني أن حكيت إنسانا وأن لي كذا وكذا.
مات أَبو القاسم الكرخي عشية يوم الثلاثاء العاشر من جمادى الآخرة سنة سبع وأربعين وأربع مِئَة ودفن من الغد بباب حرب.