مجوسي، فأكرهني على الفجور وغصبني نفسي. فقال: كيف وجدت قلفته؟ فكتب بذلك حسان النبطي إلى هشام بن عبد الملك، فعزله وولى يوسف بن عمر العراق.
قال أبو سفيان الحميري وغيره: أراد الوليد بن يزيد الحج وهو خليفة، فاتعد فتية من وجوه اليمن أن يفتكوا به في طريقه، وسألوا خالدًا القسري أن يكون معهم، فأبى، قالوا: فاكتم علينا، قال: نعم.
فأتى خالد فقال: يا أمير المؤمنين دع الحج عامك هذا، فإني خائف عليك، قال: ومن الذين تخافهم علي، سمهم لي. قال: قد نصحتك ولن أسميهم لك، قال: إذًا أبعث بك إلى عدوك يوسف بن عمر، قال: وإن فعلت، فبعث به إلى يوسف بن عمر، فعذبه حتى قتله، ولم يسم له القوم.
وقتل خالد سنة ست وعشرين ومئة وهو ابن نحو ستين سنة.
قال محمد بن جرير: عذب خالد، ثم وضع على صدره المضرسة، فقتل من الليل، ودفن بناحية الحيرة في عباءته التي كان فيها، وأقبل عامر بن سهلة الأشعري، فعقر فرسه على قبره، فضربه يوسف سبع مئة سوط.
قال أبو عبيدة: لما قتل خالد القسري لم يرثه أحد من العرب على كثرة اياديه عندهم إلا أبو الشغب العبسي فقال: من الطويل
ألا إنّ خير الناس حيًّا وهالكًا ... أسير ثقيفٍ عندهم في السّلاسل
لعمري لقد أعمرتم السّجن خالدًا ... وأوطأتموه وطأة المتثاقل
فإن تسجنوا القسريّ لا تسجنوا اسمه ... ولا تسجنوا معروفه في القبائل