يكونَ له شيوخ كثيرون من تلك البلاد، أخذ عنهم، وروى عنهم، وأفاد منهم، قال الحافظ المِزي في ترجمته من "تهذيب الكمال": سمع بخراسان والعراق والحجاز ومصر والشام وغيرِها من البلاد جماعةً يطولُ ذكرهم، قد ذكرنا منهم في كتابنا هذا مَن وقفنا عليه منهم. اهـ.
وقد استقصى الشيخ محمَّد عبد الرشيد النعماني في كتابه "الإمام ابن ماجه وعلم الحديث" -وهو باللغة الأُردية- أسماءَ شيوخِ ابن ماجه الذين روى عنهم في "سننه" و"تفسيره"، ورتبهم على بلادهم، فبلغ عددهم (٣١٠) ، وكلهم مُترجَمون في "تهذيب الكمال" للحافظ المزي، وفروعه مثل: "تهذيب التهذيب" و"تقريب التهذيب" و"خلاصة تذهيب تهذيب الكمال" وغيرها.
وصنَّف الإمام الحافظ ابن عساكر صاحب "تاريخ دمشق" المتوفى سنة (٥٧١ هـ) معجمًا يَشْتَمِلُ على ذكرِ أسماءِ شيوخ الأئمةِ الستة، وهو مطبوعٌ باسم "المُعجَم المُشتمل على ذكر أسماء شيوخ الأئمة النَّبَل".