بعد أن استولى الفرنسيون على بلاد مالي وضاعفوا ضغطهم عليها أيام الحرب العالمية الثانية، واشتد تضييقهم على المسلمين عزم الشيخُ على الهجرة من بلده، ودعا قومَه إلى ذلك، وألّف رسالته الموسومة بـ"إعلام الزمرة بأحكام الهجرة"، وكانت وجهته نحو المملكة العربية السعودية لكونها مهبط الوحي وبلاد الحرمين الشريفين.
وعند وصول الشيخ إلى مكة المكرمة سنة سبع وستين وثلاثمائة وألف للهجرة واصل طلبه للعلم، وجلس في الحلقات العلمية بالحرم المكي، فحضر دروس الشيخ عبد الرزاق حمزة في"تفسير ابن كثير"، ودروس الشيخ أمين الحنفي في"صحيح البخاري"، والشيخ حسن المشاط في"جامع الترمذي"، وغيرهم ممن كان يدرس بالمسجد الحرام.
وفي المدينة النبوية درس"الموطأ"على الشيخ محمد بن تركي النجدي، و"صحيح البخاري"، و"فتح المجيد"على الشيخ القاضي محمد الخيال.
كما أجازَه جمعٌ من أهل العلم، جمعَ أسماءهم في ثبت سماه"إتحاف القاري"