وفي أواخر العصور الوسطى كان الرماحون السويسريون، ورماة القوس والنشاب الجنويون هم أشهر المرتزقة. وفي تشكيل الكردوسة كان الرماحون يصدون هجمات الفرسان، بينما يقوم رماة الرمح والنشاب بإطلاق السهام على خطوط العدو. وفي القرن الرابع عشر الميلادي، جرى تشكيل المرتزقة في ألمانيا وإيطاليا وسويسرا في أول سرايا عسكرية. وفيما بعد أصبحت السرية الوحدة الأساسية في العديد من الجيوش.
وفي القرن الرابع عشر الميلادي أصبح الأتراك العثمانيون أول شعب بعد الرومان ينشئ جيشًا من قوات محترفة ومتفرغة للعمل العسكري. وكانت القوات العثمانية المسماة الانكشارية تعمل في وقت السلم والحرب على السواء. وفي عام 1445م، استأجر الملك شارل السابع ملك فرنسا سرايا من المرتزقة للعمل بصفة دائمة. وأنشأ فيما بعد أول جيش نظامي تعرفه أوروبا منذ العهد الروماني.
إن الكثير من التنظيمات العسكرية الحديثة يرجع أصلها إلى المشاة والفرسان الألمانية في القرن الخامس عشر الميلادي. وقد بنى الألمان تنظيمهم على غرار الجيوش الإنجليزية المرتزقة المعروفة باسم السرايا الحرة والمرتزقة السويسرية. كما نظم الألمان أيضًا أول وحدات تموين لقواتهم القتالية. لقد كانت الجيوش البدائية تقتات من الأرض التي تقاتل فيها، ولم تكن تملك أية تنظيمات تموين منفصلة. وفي القرن السادس عشر الميلادي أنشأت الفرسان الألمانية مكتبًا للإمدادات والتموين لتأمين السكن والطعام.
ولقد عجل اختراع البارود بتطوير تنظيم الجيوش وتكتيكها. وقد بدأ استخدامه في المدافع في أوروبا أثناء القرن الرابع عشر الميلادي، حيث استخدم الجنود الإنجليز أول مدافع في معركة كريسي عام 1346م، وهي مدافع كانت ترمي بالحجارة، مما جعلها غير فعالة في الرماية وبطيئة الحركة. ومع اتساع نطاق استخدام البارود طورت الجيوش مدافع، لها من الفعالية ما يهد جدران الحصون السميكة.