عاد بعد ذلك إلى الجزائر، وبدأ في أعقاب الحرب العالمية الثانية التحرك لتكوين الخلايا العسكرية لحزب الشعب الجزائري، وفي عام 1949 أصبح رئيس التنظيم السري العسكري لحزب الشعب، حيث قام بعدها بأول عملية عسكرية ضد الفرنسيين من خلال الهجوم المسلح على مركز بريد وهران، واستولى على ما فيه من أموال.

وظل بن بيلا مطاردًا من الفرنسيين حتى قُبض عليه في ربيع العام 1950، حوكم بتهمة تأسيس جيش سري وأودع سجن البليدة، لكنه تمكن من الهروب من السجن في مايو عام 1952 حيث تمكن بعدها من الهروب إلى فرنسا، ومنها إلى سويسرا، ومنها إلى القاهرة التي وصلها في شهر أغسطس عام 1953، بدأ بعد ذلك الترتيب مع جمال عبد الناصر لقيام الثورة الجزائرية التي اندلعت بمساعدة وتأييد مصري في الأول من نوفمبر عام 1955.

وفي الثاني والعشرين من أكتوبر عام 1956 تعرض أحمد بن بيلا مع محمد بوضياف وحسين آية أحمد ومحمد خيدر ومصطفى الأشرف إلى عملية اختطاف من القوات الفرنسية في أول عملية قرصنة جوية في التاريخ، حيث كانوا في طائرة خاصة تقلهم من الرباط إلى تونس أُجبرت على الهبوط في الجزائر وأُودع بن بيلا مع رفاقه السجون الفرنسية حتى أُفرج عنه في التاسع عشر من مارس عام 1962، وذلك بعد يوم واحد من توقيع اتفاقية (إفيان) التي وضعت الخطوط العريضة لاستقلال الجزائر.

انتقل بن بيلا بعد الإفراج عنه إلى المغرب ومنها إلى مصر، حيث بدأت مرحلة الصراع الداخلي بين أقطاب الثورة لاسيما بين الحكومة المؤقتة التي كان يرأسها يوسف بن خده يدعمه محمد بوضياف، وكريم بلقاسم، وكانت تُعرف باسم مجموعة (تيزي أوزو) وبين هيئة الأركان برئاسة بن بيلا ودعم هواري بومدين وفرحات عباس ومحمد خيدر، وكانت تُعرف باسم مجموعة تلمسان.