قرر عبد القادر ولأسباب عديدة أن يتخذ بلدة (بير زيت) مقراً لقيادة الجهاد المقدس، كما قسم فلسطين إلى مناطق قتالية، وولى على كل منطقة منها قائداً من قادته، أما الخلايا السرية وقياداتها فظلت تابعة له مباشرة.
كان عبد القادر أول من أطلق النار إيذاناً ببدء الثورة على بطش المستعمر في 6 أيار 1936، حين هاجم ثكنة بريطانية (ببيت سوريك) شمالي غربي القدس، ثم انتقل من هناك إلى منطقة القسطل، بينما تحركت خلايا الثورة في كل مكان من فلسطين ... وبلغت الثورة الفلسطينية أوج قوتها في تموز عام 1936، حيث انضم إليها من بقي من رفاق الشهيد عز الدين القسام، وبلغت أنباؤها العالم العربي كله، فالتحق بها المجاهدون العرب أفواجاً، وخاض الثوار العرب معارك بطولية ضد المستعمرين البريطانيين والصهاينة، ولعل أهم هذه المعارك كانت (معركة الخضر) الشهيرة في قضاء بيت لحم، وقد استشهد في هذه المعركة المجاهد العربي السوري سعيد العاص وجرح عبد القادر جرحاً بليغاً، وتمكنت القوات البريطانية من أسره، لكنه نجح في الفرار من المستشفى العسكري في القدس، بعد مغامرة رائعة قام بها المجاهدون من رفاقه فهاجموا القوة البريطانية التي تحرس المستشفى وأنقذوه وحملوه إلى دمشق حيث أكمل علاجه. عاد عبد القادر إلى فلسطين مع بداية عام 1938، وتولى قيادة الثوار في منطقة القدس، وقاد هجومات عديدة ناجحة ضد البريطانيين والصهاينة، ونجح في القضاء على فتنة دينية كان الانتداب البريطاني يسعى إلى تحقيقها ليوقع بين مسلمي فلسطين ومسيحيها.
وفي خريف عام 1938، جُرح عبد القادر ثانية في إحدى المعارك، فأسعفه رفاقه في المستشفى الإنجليزي في الخليل، ثم نقلوه خفية إلى سورية، فلبنان. ومن هناك نجح في الوصول إلى العراق بجواز سفر عراقي يحمل اسم محمد عبد اللطيف.