ولما حضرته الوفاة اجتمعت إليه بنو أمية فقالوا له: اعْهَدْ الى من رأيت من أهل بيتك، فقال: والله ما ذُقتُ حلاوة خلافتكم فكيف أتقلد وِزْرَها؟ وتتعجلون أنتم حلاوتها، وأتعجل مرارتها، اللهم إني بريء منها، مُتخلٍ عنها، اللهم إني لا أجد نفرًا كأهل الشورى فأجعلها إليهم ينصبون لها من يرونه أهلًا لها، فقالت له أمه: ليت أني خرقة حيضة ولم أسمع منك هذا الكلام، فقال لها: وليتني يا أُماه خرقة حيض ولم أتقلد هذا الأمر، أتفوز بنو أُمية بحلاوتها وأبوءُ بوزرها ومنعها أهلها؟ كلا! إني لبريء منها. وقد تنوزع في سبب وفاته، فمنهم من رأى أنه سقي شربة، ومنهم من رأى أنه مات حَتْفَ أنفه، ومنهم من رأى أنه طعن، وقبض وهو ابن اثنتين وعشرين سنة، ودفن بدمشق، وصلى عليه الوليدُ بن عتبة بن أبي سفيان، وليكون الأمر له من بعده، فلما كبر الثانية طعن فسقط ميتًا قبل تمام الصلاة، فقدم عثمان بن عتبة ابن أبي سفيان، فقالوا: نبايعك؟ قال: على أن لا أُحارب ولا أُباشر قتالا، فأبوا ذلك عليه، فصار إلى مكة، ودخل في جملة ابن الزبير.
وزال الأمر عن آل حَرْب فلم يكن فيهم من يرومها، ولا يتشوف نحوها، ولا يرتجي أحد منهم لها.
وبايع أهل العراق عبد الله بن الزبير، فاستعمل على الكوفة عبد الله بن مطيع العدوي.
فقال المختار بن أبي عبيد الثقفي لابن الزبير:
إني لأعرف قومًا لو أن لهم رجلا له رفق وعلم بما يأتي لاستخرج لك منهم جندًا تغلب أهل الشام، فقال: من هم؟ قال: شيعة بني هاشم بالكوفة قال: كن أنت ذلك الرجل، فبعثه إلى الكوفة، فنزل ناحية منها، وجعل يُظْهر البكاء على الطالبيين وشيعتهم، ويظهر الحنين والجزع لهم،