ففي السنة السادسة والثمانين للهجرة استخرج الوليد بن عبد الملك ما على القبة من ذهب وسكه نقودًا، أنفقت على ترميم المسجد وقبته. ثم في سنة 216هـ رممه الخليفة المأمون بعد زيارته له.

وفي سنة 301هـ أمرت أم الخليفة المقتدر بصنع الأبواب الجميلة الرائعة.

وفي سنة 413هـ رممه الظاهر لإعزاز دين الله.

وفي سنة 669هـ وما بعدها توالى على عناية العناية بنقش قبة وزخرفتها ملوك الأيوبين.

وفي عام 789هـ أمر الملك الظاهر برقوق نائبه على القدس بتجديد السدة، وأوقف عليه.

وكذلك أوقف عليه الأمير أرقماز عام 836هـ.

وفي عام 872هـ أمر الملك الأشرف قايتباي المحمودي بصنع الأبواب النحاسية.

وفي سنة 945هـ أمر السلطان العثماني سليمان بعمارة الباب الشمالي. وصنع له 26 نافذة من الذهب، و3 أبواب من النحاس.

وهكذا حصل في أيام السلطان أحمد سنة 1020هـ حيث وضع قنديلين منقوشين رائعين، معلقين بسلاسل الذهب الخالص في القبة. ويستمر الترميم إلى سنة 1958م عندما قامت لجنة كونها الملك حسين ملك الأردن بترميم القبة وتجديد خشبها، واستبدلت بالرصاص القديم ألواحًا من الألمونيوم المذهب والبلاتين، وقامت كذلك بتقوية أساسات المسجد ونزعت الأعمدة التالفة ووضعت مكانها أعمدة جديدة.

الزخرفة التي لا مثيل لها داخليًا وخارجيًا:

والحديث عن زخرفة مسجد الصخرة يطول ويطول... فلا تكاد ترى فيه سقفًا أو عمودًا أو حائطًا أو عقدًا أو تاجًا أو شبرًا في أي مكان إلا وهو ينطق بالابداع، ويفصح عن المدى العظيم الذي بلغه البناء والفنان المسلم.

وعلى سبيل المثال فالجدران الخارجية كلها ملبسة بالرخام الأبيض اللامع إلىارتفاع النوافذ، ثم تغطى بعد ذلك بترابيع الفسيفساء ذات البريق الزجاجي والقاشاني التركي الذي يرجع إلى سنة 1554م.