ولي إمارة مرو وهراة وغيرهما من بلاد خراسان ثم ولي إمارة بخارى وسكنها وله بها آثار مشهودة وأمور محمودة، وَكان قد سمع من إسحاق بن راهويه وعلي بن حجر وإسحاق بن منصور الكوسج وأبي داود السنجي وعبيد الله بن عمر القواريري وبشر بن الحكم النيسابوري وحامد بن عمر البكراوي، وَالحَسن بن علي الحلواني وهارون بن إسحاق الهمداني وعمرو بن عَبد الله الأودي، ومُحَمد بن علي الشقيقي.
رَوَى عنه نصر بن أَحمد الكندي الحافظ وأَحمد بن محمد بن عمر المنكدري، وعبد الرحمن بن أبي حاتم الرازي.
وقال ابن أبي حاتم: كتبت عنه مع أبي بالري وهو صدوق ثقة.
ولما استوطن بخارى أقدم إلى حضرته حفاظ الحديث مثل محمد بن نصر المروزي وصالح بن محمد جزرة ونصر بن أَحمد البغداديين وغيرهم فصنف له نصر مسندا، وَكان خالد يختلف مع هؤلاء المسمين إلى أبواب المحدثين ليسمع منهم، وَكان يمشي برداء ونعل يتواضع بذلك وبسط يده بالإحسان إلى أهل العلم فغشوه وقدموا عليه من الآفاق وأراد من محمد بن إسماعيل البخاري المصير إلى حضرته فامتنع من ذلك فأخرجه من بخارى إلى ناحية سمرقند فلم يزل محمد هناك حتى مات.