وإنَّ مما لا شك فيه أن إمامِ الجهاد كان بحقٍ صوتَ الحق الناطق باسم الجهاد في العالم، فأراد أعداء الإسلام أن يسكتوا هذا الصوت، ولما تحقق لهم أنه بمثابة ترسٍ للجهاد الأفغاني، وأنه مظلةٌ واقيةٌ له من الأخطار الخارجية قرروا إسقاط هذا الترس حتى يستطيعوا النفاذ إلى قلب هذا الجهاد ويطعنوه الطعنة النجلاء، ولهذا تآمر عليه أعداء هذا الدين ورصدوا حركاته وسكناته ثم قاموا باغتياله وتفجير سيارته في أكبر شوارع بيشاور وفي وضح النهار وهو في طريقه إلى مسجد سبع الليل لإلقاء خطبة الجمعة بتاريخ 24/ 11/1989م، إذ مرّت السيارة التي كان يستقلها من فوق لغم بوزن (20كغم ت. ن. ت) وقد انفجرت السيارة وتطايرت أجزاؤها في الهواء، ونتج عن الانفجار استشهاد شهيد الأمة الإسلامية الدكتور عبدالله عزام ومعه ولداه (محمد وإبراهيم) وقد سارت الجموع الغفيرة وهي تودع كوكبة الشهداء إلى مقبرة الشهداء في بابي وقد وجد الناس منه رائحة المسك التي انبعثت من دمه الزكي وعبقت في أنوفهم وبقيت هذه الرائحة الزكية حتى تم دفنه ومن كرامات الله له حفظ جسده من التشويه رغم أن الانفجار نتج عن (20كغم ت. ن. ت) وقد أحدث دويا هائلا وقطع تيار الكهرباء، وحفر حفرة في الأرض، وتناثرت أجزاء السيارة في الهواء ومع ذلك وجدت جثة الشيخ على مقربة من الحادث.

نزل خبر مقتل الشيخ شديدًا قاسيًا على قلوب المسلمين والمجاهدين خصوصًا والمجاهدين العرب بشكلٍ أخص فلقد كان الشيخ عبد الله الأب الحاني والعالم المربي قبل أن يكون القائد المجاهد، والأمير المساند ..

قتل الشيخ رحمه الله بعد أن قام الجهاد على سوقه، وثبت عماده، ورسخت جذوره، وواصل بعده تلاميذه إلى اليوم مسيرة الجهاد والاستشهاد، وخلفه في الإمامة الشيخ المجاهد أبو عبد الله أسامة بن لادن حفظه الله الذي كان يقول فيه الشهيد عبد الله عزام رحمه الله - في وصيته: "وادعوا كثيرًا لمن تكفل هذا المكتب بماله الخالص الأخ أبو عبد الله أسامة بن محمد بن لادن، أدعو الله أن يبارك له في أهله وماله ونرجو الله أن يكثر من أمثاله، ولله أشهد أني لم أجد له نظيرًا في العالم الإسلامي، فنرجو الله أن يحفظ له دينه وماله وأن يبارك في حياته".

قتل الشيخ رحمه الله بعد عمرٍ طويلٍ اختصر الحديث عنه بقوله: "إن عمري الحقيقي الآن تسع سنوات، سنة ونصف في الجهاد في فلسطين، وسبع سنوات ونصف في الجهاد على أرض أفغانستان، أما بقية عمري فليس له أي قيمة عندي".

قتل الشيخ رحمه الله بعد أن قدّم علمًا كثيرًا أخذه عنه الناس مشافهةً في جلساته ودروسه ومحاضراته، وضمّنه كتبه الكثيرة التي كان منها: الدفاع عن أراضي المسلمين أهم فروض الأعيان، آيات الرحمن في جهاد الأفغان، "حماس الجذور التأريخية والميثاق" وغيرها من الكتب النافعة .. رحم الله الشهيد وجمعنا به في الفردوس الأعلى، إنه سميعٌ مجيبٌ.

وقد رثي الشيخ بقصائد كثيرة وعديدة منها قصيدة الشاعر القدير يوسف أبو هلاله حفظه الله والتي قال فيها:

أيا ... بطلًا ... هزَّ ... الجهادَ ... افتقادُه ... هو البحرُ يصفو تارةً ثم يهدرُ

سطعتَ بساحات الجهاد منارةً ... لو انطفأتْ كلُّ المصابيح، تزهرُ

وحزتَ ... أفانين ... المعالي ... كأنها ... مداراتُ ... أفلاكٍ ... لها أنت محورُ

إذا التطمت هوج المنايا وزمجرتْ ... فلن يقحم الأهوال إلا الغضنفرُ

وعن ساقها يوما إذا الحرب شمرت ... بك الضرب يزهى والبطولات تفخر

تركت ... مكانا ... لا ... يسد ... فراغه ... وذلك صدع كسره ليس يجبر

وخمسون عاما عمره الغض ظهرها ... بما حملت من فارح العبء موقر

تموج هموم المسلمين بصدره ... وفوق ... شبا ... إيمانه ... تتكسر

عليه تداعى السعي والمجد والعلا ... فما كل عن شأو وما كان يفتر