كما نفى نفيًا قاطعًا أن يكون خروجه ليستزيد من العلم:"ومنذ فارقت العشرين من العمر ما حدثت نفسي باجتداء العلم من عراقي ولا شامي. وانصرفت وماء وجهي في سقاء غير سرب، لم أرق قطرة منه في طلب أدب ولا مال."مع أنه كان أمرًا مألوفًا في عصره أن يرحل الرجل ليستكثر من لقاء الشيوخ وكانت بغداد مما يقصد إليها الشعراء واللغويون والفقهاء والمحدثون. وقد صرح أبو العلاء بسبب سفره في بعض رسائله أنه أتاها قاصدًا دار الكتب بها، وكان يسميها دار العلم. ويذكر أنه لما دخل بغداد طلب أن تعرض عليه الكتب التي في خزائنها. وأنه حضر إلى خزانة الكتب التي بيد عبدالسلام البصري وعرض عليه أسماءها فلم يستغرب شيئًا لم يره من قبل بدور العلم بطرابلس إلا ديوان تيم اللات فاستعاره.
كان خروج المعري إلى بغداد في أواخر سنة 398هـ ودخلها في أوائل سنة 399هـ، ولم يأت بغداد مغمورًا بل سبقته شهرته إليها، ولكن أهل العاصمة الكبرى لم يكونوا ليسلموا بعبقرية الوافد قبل امتحانه. وقد أعدوا له امتحانًا عسيرًا اجتازه بنجاح، ذكره ابن فضل الله العمري في مسالك الأبصار:"احضروا دستور الخراج الذي في الديوان، وجعلوا يوردون عليه ما فيه مياومة وهو يسمع إلى أن فرغوا، فابتدأ أبو العلاء وسرد عليهم كل ما أوردوه له". وأقروا له بالحفظ والعلم، والشعر معًا إذ قرأوا عليه ديوان سقط الزند.
حضر المعري كثيرًا من مجالس العلماء ببغداد واشترك في دروسهم ومناظراتهم فكان يحضر مجمع سابور بن أردشير وفيه يقول:
وغنت لنا في دار سابور قينة
من الورق مطراب الأصائل ميهال
ويحضر مجمع عبدالسلام البصري يوم الجمعة ويقول فيه:
تهيج أشواقي عروبة أنها
إليك ذوتني عن حضور بمجمع