ذكر صاحب خزائن الكتب العربية أن مكتبة المسجد النبوي الشريف تكونت قبل حريق المسجد النبوي في الثالث عشر رمضان عام ثمانمئة وستة وثمانين هـ، حيث احترقت خزائن المصاحف، والكتب في ذلك الحريق.
تقع المكتبة في السطح الغربي للمسجد عند مدخل باب السلم الكهربائي العاشر.
تحتوي مكتبة المسجد النبوي الشريف على الأقسام التالية
قسم قاعات المطالعة تضم المكتبة قاعات مطالعة للرجال وقاعة للنساء وقاعة للأطفال.
وقسم المخطوطات: ويرتقي إلى الدور الثاني من باب عثمان ابن عفان.
وقسم المكتبة الصوتية. هذا القسم في الباب السابع عشر للمسجد النبوي ويقوم القسم بحفظ ما يلقى في المسجد النبوي الشريف من الدروس والخطب.
ثم القسم الفني وجهته الباب التاسع، يقوم القسم بتجليد الكتب والمخطوطات وتعقيمها وترميمها.
وأقسام الفهرسة والتصنيف والتزويد والدوريات والمستودع وهو في الباب التاسع.
وقسم الكتب النادرة يقوم القسم بحفظ الكتب النادرة من حيث قدم تاريخ الطبع أو الزخرفة أو الأشكال والصور.
والمكتبة الرقمية تحتوي على أجهزة حاسب آلي متصلة بالشبكة المحلية للمسجد النبوي وشبكة الإنترنت، ويستفيد روادها بالبحث عن الكتب والموضوعات المختلفة المتوفرة في مكتبة المسجد النبوي، وبرنامج المكتبة الشاملة والمكتبة الإسلامية الكبرى ومواقع إسلامية على الإنترنت ومكانها في الجهة الغربية داخل المسجد النبوي في الباب الثاني عشر بالطابق الثاني.
لا يعرف على وجه التحديد متى أنشئ قسم المخطوطات في مكتبة المسجد النبوي الشريف في هذه المكتبة أما في العهد السعودي الزاهر فقد تأسست المكتبة باقتراح من الأستاذ عبيد مدني حيث كان مديرًا للأوقاف في المدينة، وكان أول مدير لها الشيخ أحمد ياسين الخياري، وقد