إلى المدينة مع أصحابه، ثم أردفه بأبي موسى الأشعري رضي الله عنه.
فلما قدم معاذ صنعاء صعد على منبرها فحمد الله وأثنى عليه ثم قرأ عليهم عهده ثم نزل، فأتاه صناديد صنعاء فقالوا: يا معاذ، هذا نزل قد هيأناه لك، وهذا منزل قد فرغناه لك.
قال: ما بهذا أوصاني حبيبي، أوصاني رسول الله صلى الله عليه وسلم أن لا تأخذني في الله لومة لائم.