وقدم المدينة بعد فتح خيبر صادفت سفينته سفينة جعفر بن أبي طالب فقدموا جميعا واستعمله النَّبيّ صَلى الله عَلَيه وسَلم على بعض اليمن كزبيد وعدن وأعمالهما واستعمله عمر على البصرة بعد المغيرة فافتتح الأهواز ثم أصبهان ثم استعمله عثمان على الكوفة ثم كان أحد الحكمين بصفين ثم اعتزل الفريقين.
وأخرج ابن سعد والطبري من طريق عَبد الله بن بريدة أنه وصف أبا موسى فقال كان خفيف الجسم قصيرا ثطا.
وروى أَبو موسى عَنِ النَّبِيِّ صَلى الله عَلَيه وسَلم وعن الخلفاء الأربعة ومعاذ، وابن مسعود وأُبَيّ بن كعب وعمار.
روى عنه أولاده موسى، وإِبراهيم، وأَبو بردة، وأَبو بكر وامرأته أم عَبد الله ومن الصحابة أَبو سعيد وأنس وطارق بن شهاب ومن كبار التابعين فيمن بعدهم زيد بن وهب، وأَبو عبد الرحمن السلمي وعبيد بن عمير وقيس بن أبي حازم، وأَبو الأَسود وسعيد بن المسيب وزر بن حبيش، وأَبو عثمان النهدي، وأَبو رافع الصائغ، وأَبو عبيدة بن عَبد الله بن مسعود وربعي بن حراش وحطان الرقاشي، وأَبو وائل وصفوان بن محرز وآخرون.