فحبسه في السجن شهرين، وقد كان جرى بين إبراهيم ومروان خطب طويل حين مثل بين يديه، وأغلظ له إبراهيم، وأنكر كل ما ذكره له مروان من أمر أبي مسلم، فقال له مروان: يا منافق، أليس هذا كتابك إلى أبي مسلم جوابًا عن كتابه إليك، وأخرج إليه الرسول، وقال: أتعرف هذا؟ فلما رأى ذلك إبراهيم أمسَكَ، وعلم أنه أتى من مأمنه.
واشتد أمر أبي مسلم، وكان في الحبس مع إبراهيم جماعةٌ من بني هاشم وبني أمية: فمن بني أمية عبد الله بن عمر بن عبد العزيز بن مروان، والعباس بن الوليد بن عبد الملك بن مروان، وكان مروان قد خافهما على نفسه وخشي أن يخرجا عليه، ومن بني هاشم: عيسى ابن علي، وعبد الله بن علي، وعيسى بن موسى، فذكر ابو عبيدة الثعلبي- وكان معهم في الحبس- أنه هجم عليهم في الحبس وذلك بحران جماعةٌ من موالي مروان من العجم وغيرهم فدخلوا البيت الذي كان فيه إبراهيم والعباس وعبد الله، فأقاموا عندهم ساعة، ثم خرجوا وأغلق باب البيت، فلما أصبحنا دخلنا عليهم، فوجدناهم قد أتي عليهم، ومعهم غلامان صغيران من خدمهم كالموتى، فلما رأونا أنسوا بنا، فسألناهم الخبر، فقالا: أما العباس وعبد الله فجعل على وجوههما مخاد وقعد فوقهما فاضطربا ثم بردا، وأما إبراهيم فإنهم جعلوا رأسه في جراب كان معهم فيه نورة مسحوقة، فاضطرب ساعة ثم خمد.
وكان في الكتاب الذي قرأه مروان من ابراهيم إلى أبي مسلم أبياتٌ من الرجز بعد خطب طويل، منها:-
دونك أمرًا قد بدت أشراطه ... إن السبيل واضح صِراطهُ
لم يبق إلا السيف واختراطه
وقد ذكر في كيفية قتل ابراهيم الإمام من الوجوه غير ما ذكرنا، وقد أتينا