Yapıdaki en önemli Osmanlı eklentilerinden birisi Sultan I. Mahmud tarafından 1739 yılında yaptırılan yapının güney kısmında iki payanda arasına yaptırılmış olan kütüphanedir. Bu bölüm, okuma salonu ile Hazine-i Kütüb (Kitapların saklandığı yer) ve onları birleştiren koridor ve taşlıktan oluşmakta ve ana mekândan, 6 sütunun taşıdığı altın yaldızlı tunç şebeke ile ayrılmaktadır. Tunç şebeke, çiçek ve kıvrık dallarla süslüdür. Kütüphanenin iki kanatlı kapısı üzerinde “Ya Fettah” yazılı, iki kapı kulbu bulunmaktadır.
“Ya Fettah”, Allah’ın 99 isminden biri olup, “kullarına hayır ve rızık kapılarını açan, zorlukları kolaylaştıran” anlamına gelmesinden dolayı, Osmanlı Döneminde kapılar üzerindeki tokmaklarda sıkça kullanıldığı görülmektedir. Okuma salonunun doğu duvarında Sultan I. Mahmud’un somaki mermere işlenmiş tuğrası yer alır.
Okuma odası ve Hazine-i Kütüb’ü birleştiren koridor, çiçek, gül, karanfil, lale ve servi motiflerinin görüldüğü, 16 -18. yüzyıl İznik, Kütahya ve Tekfur atölyelerine ait çiniler ile süslüdür. Kitaplık kısmındaki ahşap kitap dolapları gül ağacından yapılmıştır. Sultan I. Mahmud ve dönemin önde gelen kişilerinin de kitap bağışında bulunduğu kütüphanedeki, yaklaşık 5000 adet kitap, 1968 yılında Süleymaniye Kütüphanesi’ne devredilerek, “Ayasofya Özel Koleksiyonu” adıyla burada korunmaktadır.
Kütüphanenin okuma bölümünde, üzerinde kitap okunan, yazı yazılan, bazıları açılıp kapanabilen, alçak, küçük masa şeklinde sedef kakma tekniği ile süslü ahşaptan rahleler ile Kur’an-ı Kerim’lerin içinde korunduğu iki adet sedef, fildişi kaplamalı Kuran mahfazası bulunmaktadır.