وقد قام عبد الله بن سعد أثناء ولايته بالجهاد في عدة مواقع، فكانت له فتوح مختلفة لها شأن عظيم، فكان من غزواته غزوة أفريقية سنة 27هـ وفتوحه فيها, وقتله ملكها جرجيروانتهت الغزوة بصلح مع بطريرك أفريقيا على تأدية الجزية للمسلمين. وقد عاد ابن أبي السرح إلى أفريقية مرة أخرى ووطد فيها الإسلام وذلك في سنة 33هـ، كما كان من أهم أعمال عبد الله بن سعد بن أبي السرح غزوه لبلاد النوبة وتسمى غزوة الأساودة أو غزوة الحبشة ويعتبر عبد الله بن سعد بحق أول قائد مسلم تمكن من اقتحام النوبة، وقاتل أهلها وفرض عليهم الجزية، واستقرت الحال على ذلك في أيامه بين أهل النوبة