والتقي بجيش النصارى بقيادة ألفونسو السادس في موقعة (الزلاقة) سنة 480هـ/1087م وانتصر جيش ابن تاشفين انتصارًا هائلاً، وبعدها وحَّد المغرب والأندلس تحت قيادته الخاصة، ورأى شيوخ المرابطين ما يقوم به يوسف من أعمال عظيمة فاجتمعوا عليه وقالوا له: أنت خليفة الله في المغرب وحقك أكبر من أن تدعى بالأمير، بل ندعوك بأمير المؤمنين، فقال لهم: حاشا لله أن أتسمى بهذا الاسم، إنما يتسمى به الخلفاء، وأنا رجل الخليفة العباسي، والقائم بدعوته في بلاد المغرب، فقالوا له: لابد من اسم تمتاز به، فقال لهم: يكون (أمير المسلمين) .
وبعد انتهاء موقعة الزلاقة بايعه من شهدها معه من ملوك الأندلس وأمرائها أميرًا على المسلمين، وكانوا ثلاثة عشر ملكًا، واستطاع يوسف بن تاشفين أن يوقف زحف جيوش النصارى، وأن يعيد ما استولوا عليه من الأندلس، وقد امتدت دولته فشملت الأندلس والمغرب الأقصى، وازدهرت البلاد في عصره، وضرب السكة (أي العملة) ونقش ديناره: لا إله إلا الله محمد رسول الله، وتحت ذلك: أمير المسلمين يوسف بن تاشفين، وكتب في الدائرة: (ومن يبتغ غير الإسلام دينًا فلن يقبل منه وهو في الآخرة من الخاسرين) وكتب على الوجه الآخر من الدينار: الأمير عبد الله أمير المؤمنين العباسي، وفي الدائرة تاريخ ضرب الدينار وموضع سكه.
وكان ابن تاشفين كثيرَ العفو، مقربًا للعلماء، وكان إذا وعظه أحدهم خشع عند استماع الموعظة، ولان قلبه لها، وظهر ذلك عليه، ولما بلغ الإمام أبا حامد الغزالي ما عليه ابن تاشفين من الأوصاف الحميدة وميله إلى أهل العلم، عزم على التوجه إليه فوصل الإسكندرية، وشرع في تجهيز ما يحتاج إليه، وعندما وصله خبر وفاة ابن تاشفين رجع عن ذلك العزم، ففي سنة 498هـ أصيب يوسف بن تاشفين بمرض أدى إلى وفاته ودفن في مدينة مراكش.