الخلافة من العباسيين، وقام بالبيعة له بمكة كما مات أبوه الربيّع بن يونس الحاجب، وأسرع بإرسال الخبر إليه، فوصل إليه الخبر من بغداد، فكتم الأمر، ثم جمع الناس فخطبهم، فحمد الله وأثنى عليه، ثم قال: إن المنصور أمير المؤمنين، دعى؛ فأجاب، وأمر؛ فأطاع ثم ذرفت عينه ثم قال: لقد بلى رسول الله صلى الله عليه وسلم بفراق الأحبة، وقد فارقت عظيما وقلدت جسيما، فعند الله احتسبت أمير المؤمنين، وبه أستعين على تقليد أمور المسلمين، ونزل فيما بعد الناس، وأول من جمع تعزيته وتهنئته أبو دلامة الشاعر حيث قال:

عيناى واحدة ترى مسرورة ... بأميرها جذلى وأخرى تذرف ...

تبكى وتضحك تارة ويشوبها ... ما أنكرت ويسرها ما تعرف ...

فيسوؤها موت الخليفة محرما ... ويسرها أن قام هذا يخلف ...

ما إن رأيت كما رأيت ولا أرى ... شعرا أسرحه وآخر أنتف ...

هذا حباه الله فضل خلافة ... ولدا كجنات النعيم تزخرف

وكان المهدى لما شب ولاه أبوه طبرستان والرى وما يليها، فتأدب وتميز، وجالس العلماء، وكان كريما مليح الشكل، شجاعا محبا للعلماء، وكان يقول: ادخلوا علىّ العلماء والقضاة، وأحضروهم عندى، ولو لم يكن في حضورهم إلا رد المظالم حياء منهم لكان خيرا كثيرا.

وقدم عليه مروان أن أبا حفصة الشاعر؛ أنشده قصيدة، فلما وصل إلى قوله:

إليك قصرنا النصف من صلواتنا ... مسيرة شهر نواصله ...

وما نحن نخشى أن تخيب مصيرنا ... إليك أمنا البر عاجله

فضحك المهدى، وقال: كم بيت قصيدتك، قال: سبعون بيتا، فأمر له بسبعين ألف درهم، قبل أن يتم إنشادها، وله شعر رقيق لطيف، أحسن من شعر أبيه وأولاده بكثير، ومنه ما ذكر الصولى، وهو يقول: