ارتبطت مكتبة الحرم المكي الشريف بمجالس الفتيا والذكر منذ عصر الصحابة والتابعين ما يجعلها من أهم المكتبات في العالم الإسلامي، إلا أن مديرها الدكتور محمد عبدالله باجودة يؤكد عدم وجود نص في كتب التاريخ يؤكد أن المكتبة - التي تفتح أبوابها في أيام هذا الشهر للباحثين - كانت موجودة داخل الحرم منذ تلك العصور.
ولفت باجودة إلى اتفاق أغلب المؤرخين على أن نواة المكتبة كانت موجودة في بداية الخلافة العباسية زمن المهدي العباسي عام 160 هـ وأنه كانت توجد قبتان إحداهما للسقاية والأخرى للمحفوظات سميت قبة بيت المحفوظات كانت تحفظ بها المصاحف وبعض الكتب الدينية، ولكن يبقى من الصعوبة بمكان معرفة البداية الحقيقية المؤكدة لتأسيس المكتبة.
وأوضح باجودة أن عدد العناوين في المكتبة يصل إلى أكثر من 100 ألف عنوان، ويبلغ عدد المخطوطات النادرة 5000 مخطوطة أصلية، بالإضافة إلى 2000 مخطوطة مصورة على ورق و3000 مخطوطة على الميكروفيلم، إضافة إلى العديد من الأقسام كقسم الدوريات ويشتمل على الصحف والمجلات المحلية والعربية القديمة والحديثة، وقسم المكتبة الصوتية لتسجيل الدروس التي تلقى في المسجد الحرام والمواعظ والخطب، ومن ثم تحويلها إلى (CD) ثم تدخل إلى موقع المكتبة الصوتية بالإنترنت لكي يستفيد منها الزوار للموقع.
وقسم التصوير الميكروفيلمي للمخطوطات الأصلية والمصورة والتي ترد إلى المكتبة، وكذلك الدوريات القديمة النادرة على أفلام ودفعها إلى قسم قراءة الميكروفيلم، كما تحول إلى نسخ ورقية لمن يطلبها وقسم قراءة الميكروفيلم يحفظ الأفلام الخاصة بالمخطوطات والصحف القديمة وعرضها على أجهزة القراءة الموجودة في القسم.
وفي قسم جناح الحرمين الشريفين يعرض كل ما له علاقة بالحرمين من صور قديمة أو حديثة وخرائط وكتب وصور مخطوطات للمطالعين والزوار. ويخدم الزائرات قسم للنساء يعمل على فترتين صباحية ومسائية .
ويضم قسم المكتبة الإلكترونية، وجناح ذوي الاحتياجات الخاصة، بعض الكتب والنشرات المطبوعة بطريقة برايل، ومجموعة من الأشرطة السمعية تربو على (2300) شريط وأكثر من (700) كتاب في مختلف الفنون .
