الذين دخلوا الأندلس، ثم نراه بعد ذلك من زعماء الثمانية وكبار الجند، ونراه في سنة 102 ه، على أثر موقعة تولوشة ومقتل السمح بن مالك، يتولى قيادة الجيش وإمارة الأندلس باختيار الزعماء والقادة مدى أشهر، ثم لا نسمع عنه بعد ذلك، حتى تولى إمارة الأندلس للمرة الثانية من قبل الخليفة في سنة 113 د

على أن الذي لا ريب فيه هو أن عبد الرحمن الغافقي كان جنديا عظيما، ظهرت مواهبه الحربية في غزوات غاليس، وحاكمة قديرة، بارعا في شئون الحكم والإدارة، ومصلحة مستنيرة يضطرم رغبة في الإصلاح.

بل كان بلا ريب أعظم ولاة الأندلس وأقدرهم جميعا. وتجمع الرواية الإسلامية على تقديره والتنويه برفيع خلاله، والإشادة بعدله وحلمه وتقواه، فرحبت الأندلس قاطبة بتعيينه، وأحبه الجند لعدله ورفقه ولينه، وجمعت هيبته كلمة القبائل، فتراضت مضر وحمير، وساد الوئام نوعا في الإدارة والجيش، واستقبلت الأندلس عهدا جديدة.

وبدأ عبد الرحمن ولايته بزيارة الأقاليم المختلفة، فنظم شئونها وعهد بادارتها إلى نوى الكفاية والعدل، وقمع الفتن والمظالم ما استطاع، ورد إلى النصارى كنائسهم وأملاكهم المنصرية، وعدل نظام الضرائب وفرضها على الجميع بالعدل والمساواة، وقضي صدر ولايته في إصلاح الإدارة وتدارك ما سرى إليها في عهد اسلافه من عوامل الاضطراب والخلل، وعنى بإصلاح الجيش وتنظيمه عناية خاصة، فحشد الصفوف من مختلف الولايات، وأنشأ فرقة جديدة مختارة من فرسان البربر باشراف نخبة من الضباط العرب، وحصن القواعد والثغور والشمالية، وتأهب لإخماد كل نزعة إلى الخروج والثورة.