أما الأبنية الخاصة, فقد كانت تشتمل على حجرات متعددة تربط بينها أروقة فسيحة, وكانت الكتب تشتمل على رفوف مثبتة بالجدران تخصص كل غرفة لفرع من فروع العلم, فلكتب الفقه غرفة, ولكتب الطب غرفة, كالذي قيل في مكتبة على بن يحيى بن المنجم, فقد كان له قصر عظيم في قرية قريبة من بغداد, وفيه مكتبة عظيمة كان يسميها خزانة الحكمة, يقصدها الناس من كل بلد فيقيمون فيها ويتعلمون منها صنوف العلم. والكتب مبذولة في ذلك لهم, والأرزاق مغدقة عليهم, وكل ذلك من مال علي بن يحيى نفسه. بل هنالك ما هو أطرف من ذلك مما لا نعلم له مثيلا اليوم في أرقى عواصم الحضارة الغربية. فقد كان في الموصل دار أنشأها أبو القاسم جعفر بن محمد بن حمدان الموصلي, وسماها دار العلم. وجعل فيها خزانة كتب من جميع العلوم, وقفا على كل طالب علم, لا يمنع أحد من دخولها, وإذا جاءها غريب يطلب الأدب, وكان معسرا أعطاه ورقا, وورقا, (أي كتبا ونقودا ) , كانت تفتح في كل يوم... فهل سمعتم حتى الآن بمكتبة في لندن أو واشنطن أو عاصمة من عواصم العالم الكبرى اليوم تمنح الأدب والأموال لطلبة العلم.?

وكان للمكتبات العامة موظفون يرأسهم خازن المكتبة. وهو دائما من أشهر علماء عصره, ومناولون يناولون الكتب للمطالعين, ومترجمون ينقلون الكتب من غير العربية إلى العربية, ونساخ يكتبون الكتب بخطوطهم الجميلة, ويجلدون الكتب لتحفظ من التمزق والضياع, هذا عدا عن الخدم وغيرهم ممن تقتضيهم حاجة المكتبات.

وكان لكل مكتبة صغيرة أو كبيرة فهارس يرجع إليها لسهولة استعمال الكتب, وهي مبوبة بحسب أبواب العلم, وبجانب هذا كانت توضع قائمة على كل دولاب تحتوي أسماء الكتب الموجود في الدولاب. وكان من المعروف في نظام المكتبات أن الاستعارة الخارجية مسموحة في أغلبها لقاء ضمان عن الكتاب من عامة الناس, أما العلماء وذوو الفضل فلا يؤخذ منهم ضمان.