وقد احتل من مجلس نظام الملك هناك محل القبول، وظهر اسمه، وبرزت مناظراته للفحول ومناقرته للكبار، وارتفق بذلك أكمل الارتفاق، حتى أدت به الحال إلى أن صمم على ترك المعسكر والتدريس بنظامية بغداد.
وصل أبو حامد إلى بغداد ولاقى تشجيعًا له على تحقيق دعوته ومواصلة تدريسه في نظامية بغداد، وصارت له مكانة وشهرة واسعة، حيث كان مدرسًا لثلاثمائة من الطلاب في الفقه والأصول وغيرهما، لكن ذلك لم يدم طويلًا، فقد أصابه مرض اضطره إلى مفارقة بغداد، فرحل إلى الحجاز حاجًا، ثم أتى الشام وتركها ذاهبًا إلى القدس نحو سنتين، وقيل: إن خروجه من بغداد كان لسبب خطر الباطنية الذين تم على أيديهم اغتيال نظام الملك سنة (485هـ) ، وبهذا فقد قويت شكيمتهم واستفحل أمرهم، ولقد كان وقع نبأ نظام الملك عميقًا في نفس الغزالي، وتأثر بسبب ذلك تأثرًا بليغًا، وبلغ هذا التأثر مبلغه حين توفي المهتدي سنة سبع وثمانين وأربعمائة بطريقة غامضة، ولعلها مؤامرة باطنية أيضًا.
ثم جاء المستظهر بالله فطلب من الغزالي محاربة عقيدة الباطنية وفضح آرائهم ومذهبهم، ففعل الغزالي ذلك، وصنف ضدهم العديد من المصنفات أشهرها كتابه: المستظهري، إذًا: المستظهري نسبة إلى المستظهر بالله الذي أمره بالرد على عقائد الباطنية، وأصبح اسم الكتاب: فضائح الباطنية، ولذلك لما رد الغزالي على عقيدة الباطنية وفضحهم أصبح مهددًا بالخطر، فالباطنية يترصدونه ويتحينون الفرصة المواتية للتخلص منه، فخرج من بغداد سنة (488هـ) ، وقد ترك أخاه أحمد للتدريس في نظامية بغداد، وفي بغداد أيضًا انصرف الغزالي إلى دراسة الفلسفة دراسة عميقة، فطالع كتب الفارابي وابن سينا، وألف على إثر ذلك كتابه: تهافت الفلاسفة.
يقول بعض العلماء: الغزالي لم يؤلف هذا الكتاب عن رغبة مجردة في العلم؛ بل لأنه عانى من مرحلة من الاضطراب والتشكك الذهني أو الفكري، والدليل على ذلك أنه ألف كتابه المشهور: تهافت الفلاسفة لإبداء شكوكه في قيمة العلم وبراهينه المنطقية، وبعض الناس يفسرون خروجه من بغداد بأنه كان نتيجة هذه الشكوك التي طرأت على عقيدته فجعلته يترك التدريس، وترك الأهل والولد والمال وخرج من بغداد سنة (488هـ) .