Başbakanlık Osmanlı Arşivi’nde muhafaza edilen arşiv malzemesi tamamen Osmanlı İmparatorluğu devrine ait ve hemen hepsi Osmanlıca harfler ile yazılıdır. 19. yüzyılın diplomasi dili olan Fransızca ile Arapça, Farsça ve İngilizce gibi farklı dillerde yazılmış belgelere de rastlanmaktadır. Belgeler, şekil bakımından Osmanlı bürokrasi sistemine göre defter ve evrak olarak iki ana guruba ayrılabilir.
Başbakanlık Osmanlı Arşivi’ndeki malzeme, Osmanlı merkez teşkilatının belli başlı müesseselerinden olan Dîvân-ı Hümâyûn, Bâb-ı Âsafî, Bâb-ı Defterî ve benzeri kuruluşlara ait defterler ve vesikalardan başka harita, plan, proje, kroki, albüm, fotoğraf ve gazete koleksiyonları gibi malzemelerden ibarettir. Bu kuruluşların Tanzimat’tan sonra değişime uğraması ile bunların devamı olan Şûrâ-yı Devlet, Hazine-i Hassa, Maliye, Evkâf, Nâfiâ, Ticâret, Orman nezaretleri ve benzeri kuruluşların evrakı da bu arşivde bulunmaktadır. Topkapı Sarayı Müzesi Arşivi’nin bir kısmını oluşturan II. Abdülhamid’in Yıldız Arşivi de bu arşivde bulunmaktadır.
Başbakanlık Osmanlı Arşivi’nin sahip olduğu arşiv malzemesini iyi anlayabilmek, muhtevasına ulaşabilmek için; Osmanlı bürokrasi sistemini, devlet teşkilatını, kuruluşlarını, kalemlerini, bunların görev ve işleyişlerini, zaman içinde geçirdikleri aşamaları bilmesi araştırıcının işini kolaylaştırmaktadır. Aksi takdirde belgelere ulaşmak ve nüfuz etmek güçtür. Dolayısıyla araştırılacak konuyla ilgili belgenin nerede, hangi fonda bulunabileceği, ilgili fonun hangi fonlarla ilişkili olduğu, belge ile ilgili hangi prosedürün işlediğinin bilinmesi yararlı olacaktır.
Osmanlı Arşivi’nde tasnifi yapılan defter ve belge serileri, genellikle Osmanlı devlet teşkilatı esas alınmak suretiyle tasnif edilmekle beraber, bu tasniflerin farklı zamanlarda yapılması ve farklı tasnif usullerinin uygulanması aynı kuruluşa ait olan evrakın farklı fonlarda toplanmasına, teşkilat ve bürokrasi sistemine göre tasnif yapılaması esnasında bazı sapmaların ortaya çıkmasına sebep olmuştur. Ancak tasnif sistemi belli bir sisteme oturtularak çıkabilecek problemleri en aza indirgemek için bu konuda bir talimatname hazırlanmıştır.