فبعد عودته من بغداد قرر أن يعتزل الناس جميعًا وسمى نفسه رهين المحبسين، وعبر عن ثلاثة سجون يعيشها بقوله:
أراني في الثلاثة من سجوني
فلا تسأل عن الخبر النبيث
لفقدي ناظري ولزوم بيتي
وكون النفس في الجسم الخبيث
وكان في طبعه ميل إلى العزلة كما وصف نفسه بأنه"وحشي الغريزة إنسي الولادة". وتضافرت أسباب حملته على اتخاذ قرار العزلة؛ فمنها الأحداث المؤلمة التي مرت به من فقد أبيه وأمه وما يلقى من أذى أحيانًا من بعض الناس، ويجعل بعضهم من أسباب عزلته ـ إضافة إلى ما سبق ـ سببين رئيسيين، أولهما: ذهاب بصره الذي جعله يجهل كثيرًا من آداب الناس في عاداتهم، وكان شديد الحياء عزيز النفس يكره أن يخطئ في ما ألف الناس فيكون موضع السخرية والاستهزاء أو الرحمة أو الشفقة. وثانيهما فشله في الإقامة في بغداد حيث يلقى العلماء والفلاسفة، ومن ثم اضطراره إلى لزوم المعرة وهي خلو من العلماء، فكأن معاشرته للبغداديين قد بغضت إليه معاشرة الناس.
قرر أبو العلاء الانقطاع عن الدنيا ومفارقة لذائذها، فكان يصوم النهار ويسرد الصيام سردًا لا يفطر إلا العيدين، ويقيم الليل ولا يأكل اللحوم والبيض والألبان ولايتزوج، وكان يكتفي بما يخرج من الأرض من بقل وفاكهة:
يقنعني بَلْسَن يمارس لي
فإن أتتني حلاوة فبلس
والبلس من البقل العدس أو الفول، والبلس التين. وعبر عن تحريم ما ذكر في قوله:
فلا تأكلن ما أخرج الماء ظالمًا
ولا تبغ قوتًا من غريض الذبائح
ولاتفجعن الطير وهي غوافل
بما وضعت فالظلم شر القبائح
ودع ضَرَبَ النحل الذي بكرت له
كواسب من أزهار نبت صحائح
ويكتفي من الثياب بما يستره من خشنها، ومن الفراش بحصير من بردي أو لباد، وكان يكلف نفسه أمورًا شاقة زيادة في مجاهدتها مثل الاغتسال شتاءً بالماء البارد:
مضى كانون ما استعملت فيه
حميم الماء فاقدم يا شباط