كان يسكن بباب الأزج.
سمع القاضي أبا بكر محمد بن عبد الباقي بن محمد الأنصاري، وأبا القاسم إسماعيل بن أحمد ابن السمرقندي وغيرهما. وكانت له إجازةٌ من أبي القاسم بن الحصين، فيما ذكر تميم ابن البندنيجي؛ قال تميم: وحدث عبد الله هذا وروى.
سمع منه جماعةٌ من أصحابنا، وما اتفق لنا لقاؤه، ولعله أجاز لي. توفي في ليلة الثلاثاء حادي عشر جمادى الآخرة سنة إحدى وتسعين وخمس مئة، ودفن بباب الأزج بمقبرة الخلال، وتعرف بمقبرة الفيل.
كان أبوه مولىً لرجلٍ يعرف بحسين الخازن فنسب إليه. هكذا ذكر عبد الله هذا، وقال لي: قرأت القرآن الكريم بالقراءات على أبي بكر محمد بن الحسين المزرفي وغيره.
قلت: وسمع الحديث من أبي الحسن علي بن أحمد الموحد، وأبي عبد الله الحسين بن علي الخياط سبط أبي منصور المقرئ، وأبي الوقت عبد الأول بن عيسى الهروي، وغيرهم، وروى عنهم. سمعنا منه.
قرأت على أبي القاسم عبد الله بن صافي الخازني من أصل سماعه بالرباط المجاور لمشهد النذور عند السبتي، قلت له: أخبركم أبو عبد الله الحسين بن علي بن أحمد قراءةً عليه وأنت تسمع، فأقر به، قال: أخبرنا أبو الغنائم عبد الصمد بن علي ابن المأمون، قال: أخبرنا أبو الحسن علي بن عمر بن أحمد الدارقطني، قال: حدثنا عبد الله بن محمد البغوي، قال: حدثنا مصعب بن عبد الله الزبيري، قال: حدثنا هشام بن عبد الله المخزومي، قال: حدثنا هشام