وبدأ العمل لتنفيذ فكرته بخطوات ثابتة وعمل متواصل ومراحل مدروسة.

المرحلة الأولى: مرحلة الإعداد وتهيئة الأجواء للثورة: بدأ الشيخ بإعداد الجهاد في فلسطين بحيث ينتمي إليها الذين يقع عليهم الاختيار ليكونوا طلائع الثوار، بحيث يتم ذلك بكتمان وسرية، والكتمان ضروري حتى لا يقع أحد فريسة بين براثن ذئاب الاستعمار، وينكشف أمر الثورة، وكانت أبسط مستلزمات اختيار الأعضاء أن يجد الشيخ الفرصة والوسيلة للاتصال بأكبر عدد من أبناء الشعب ومن مختلف فئاته.

وقد وجد الرجل الطريق إلى ذلك، فقد عمل خطيبا في جامع الاستقلال، أكبر مساجد حيفا، ومكنه هذا من التعرف على عدد كبير من المواطنين الذين يستمعون إلى دروسه وخطبه، فكان عندما يخطب على المنبر يراقب المصلين، ويدعو من يتوسم فيه الخير والاستعداد لزيارته في منزله، وتتكرر الزيارات حتى يقنعه بالعمل لإنقاذ فلسطين مما يهددها من خطر. كما أنشأ مدرسة ليلية لمكافحة الأمية والاتصال بالناس، وكان عمله سرًّا حتى لا ينكشف عند رجال الاستعمار، ولما انبثقت في فلسطين جمعية"الشبان المسلمين"وكان لفرع حيفا سباقا في هذا المضمار، رأى القسام أن الفرصة قد واتته، ووجد السبيل إلى توسيع نطاق صلاته بالناس، فالتحق بها، وانتُخب رئيسا لها، وبذلك أتيحت له فرصة أكبر ليقوى رجاله، وكان لابد أن يتصل بالقرى، ولابد من وسيلة تستر زياراته لها، فتقدم بطلب مأذون شرعي وُوفق على تعيينه، وبدأ يخرج إلى القرى،