وفد هو وأخوه الزبير بن خبيب على أمير المؤمنين المهدي وهو ببغداد فأجازهما ووصلهما وانصرف الزبير بن خبيب إلى المدينة وأبي المغيرة أن ينصرف فأقام وتسببت له صحبة العباس بن محمد بن علي ثم طلبه المهدي من العباس فصار إليه وكانت له به خاصة.
أخبرني الأزهري، قال: حَدثنا أَحمد بن إبراهيم، قال: حَدثنا أَحمد بن سليمان الطوسي، قال: حَدثنا الزبير بن بكار قال: وأما المغيرة بن خبيب فكان لطيفا بأمير المؤمنين المهدي ولاه عطاء أهل المدينة، وَكان يوليه القسوم وأعطاه ألف فريضة يضعها حيث يشاء ففرضه مشهور بالمدينة.