وكان أول من اتخذ في المسجد المقصورة مروان بن الحكم, بناها بحجارة منقوشة, ثم لم يحدث فيه شيئًا إلى أن ولي الوليد بن عبد الملك بن مروان بعد أبيه, فكتب إلى عمر بن عبد العزيز وهو عامله على المدينة يأمره بهدم المسجد وبنائه, وبعث إليه بمال ورخام وفسيساء - وهي فيما قاله الزبيدي في"مختصر العين": ألوان مؤلفة من الخرز تركب في الحيطان - وبعث إليه بثمانين صانعًا من الروم والقبط من أهل الشام ومصر فبناه وزاد فيه, وولي القيام بأمره والنفقة عليه صالح بن كيسان, وذلك في سنة سبع وثمانين, وقيل: في سنة ثمان وثمانين ثم لم يحدث فيه أحد من الخلفاء شيئًا حتى استخلف المهدي.
قال الواقدي: بعث المهدي عبد الملك بن شبيب الغساني ورجلًا من