وتتبع وزارة الأوقاف والإرشاد. يحدد المؤرخ عبد الواسع بن يحيى الواسعي المتوفى سنة 1379هـ/1960م في كتابه تأريخ اليمن المسمى (فرجة الهموم والحزن في تأريخ اليمن) نشأة هذه المكتبة بسنة 1344هـ/1925م، وفي مصدر آخر أنها بنيت سنة 1355هـ حيث جمعت مقتنياتها من المكتبات الخاصة بالعلماء الذين أوقفوا ووهبوا كتبهم على هذه المكتبة لينهل منها طلاب العلم وقد وضع لها القاضي محمد أحمد الحجري المتوفى سنة 1380هـ/1960م، فهرسًا طبع سنة 1361هـ/1942م.
بنيت المكتبة عدني المنارة الشرقية للجامع، ومع ازدياد رصيد المكتبة من المخطوطات عملت وزارة الأوقاف على نقلها إلى مبنى جديد تم إنجازه سنة 1404هـ/1984م. يقع خارج الجامع بالجهة الغربية ويشتمل على مرافق عديدة وتبلغ مقتنيات المكتبة (2409) مجلدات والمجاميع (124) مجلدًا تشتمل على رسائل وأبحاث وفوائد متفرقات، ويمكن ذكرها بالتفصيل على النحو الآتي:
-التفسير وعلومه (397) مجلدًا.
-علم النحو واللغة والبلاغة والأدب (437) مجلدًا.
-علم الحديث (294) مجلدًا.
-علم الكلام (254) مجلدًا.
-علم الطب (61) مجلدًا.
-علم الفقه (857) مجلدًا.
-معارف متفرقات (96) مجلدًا.
صدر لهذه المكتبة فهرس جديد طبع في دمشق بمطبعة الكاتب العربي سنة1404هـ/1984م أربعة مجلدات.
ويرتاد المكتبة كثير من الباحثين في مجال الدراسات العليا، ويقوم بزيارتها عدد من ضيوف الدولة من الوفود الرسمية.