مات فبغضه سائر الخدم وشنفوه وتبرموا به واستقبحوا ما كان يفعله بهم وأنفوا من ذلك فاستفتوا العلماء في حد اللوطي فقالوا حده القتل فتواطأ على قتله بعد الفتيا جماعة من خدمه فقتلوه ليلة الأحد لليلتين بقيتا إلى العيد من ذي الحجة سنة اثنتين وثمانين ومائتين في قصره بدير المران خارج مدينة دمشق وهربوا على طريق البرية على أن يوافوا بغداد فخرج خلفهم طغج بن جف فأخذهم وأدخلهم إلى دمشق مشهورين وذهب بهم إلى طريق دير المران طريق القصر فضرب أعناقهم وصلبهم بالقرب من قصر أبي الجيش
وذكر أبو جعفر محمد بن الأزهر البغدادي غير هذا حكى أن إبراهيم بن أحمد المادرائي أتى مدينة السلام مقبلا من دمشق على طريق البرية فأعلم السلطان أن أبا الجيش خماروية بن أحمد بن طولون اتهم خادما له من خواص خدمه بجارية له وأنه تهدده وتواعده أن يقتله فلما حذر الخادم على نفسه استغوى جماعة من الخدم الخاصة وحضهم على قتله فأجمعوا على ذلك في ليلتهم وشرب خماروية ذلك اليوم شربا كثيرا فاحتملوه وأدخلوه بيت مرقده فلما كان في الليل ذبحوه ذبحا وأصبح أهل الدار فلم يروا حركته ولا رأوه يقوم في وقته ففتشوا عن أمره فأصابوه مذبوحا فجاءوا بجيش ابنه فوقفوه عليه وقرر الخدم فأقروا بذلك فضرب أعناقهم وصلبهم ودعا الجند والموالي إلى بيعته فبايعوه وانصرف من دمشق إلى مصر
وقال أحمد بن الخير إن أبا الجيش حمل في تابوت من دمشق إلى مصر ودفن