استخلف بعد أبيه المعتصم، وَكان يسكن سُرَّ مَن رَأَى فأخبرنا علي بن أَحمد بن عمر المقرئ، قال: أَخبَرنا عَليّ بن أَحمد بن أبي قيس الرفاء، قال: حَدثنا أَبو بكر بن أبي الدنيا قال وبويع هارون بن محمد في اليوم الذي توفي فيه أبوه المعتصم بسُرَّ مَن رَأَى وهو يومئذ ابن تسع وعشرين سنة وورد رسوله إلى بغداد يوم الجمعة على إِسحاق بن إِبراهيم فلم يظهر ذلك، ودعا للمعتصم على منبرى بغداد وهو ميت فلما كان من الغد يوم السبت أمر إِسحاق بن إِبراهيم الهاشميين والقواد والناس بحضور دار أمير المؤمنين فحضروا فقرأ كتابه على الناس بنعى أبيه وأخذ البيعة فبايع الناس.