La biblioteca dell’Istituto si è formata nel tempo quale supporto ai lavori istituzionali di edizione delle fonti e quale risultato dei rapporti di scambio e collaborazione con le società e le deputazioni di storia patria e con i principali istituti scientifici stranieri in Roma e all’estero.
Prima del 1924, anno in cui l’Istituto ebbe una sede propria, le notizie relative alla biblioteca sono scarse e frammentarie, e fino a tale data questa era intesa non come patrimonio librario a disposizione degli studiosi, ma come strumento bibliografico da usare per la pubblicazione delle fonti.
Le prime notizie sulla biblioteca dell’Istituto si hanno in un verbale della giunta del 3 giugno 1890, nel quale si parla di una biblioteca, costituita da due fondi distinti, uno di proprietà dell’Istituto storico italiano e l’altro concesso in deposito dal Ministero della pubblica istruzione, all’interno del quale l’Istituto aveva la sua sede temporanea.
Dal verbale del 18 dicembre 1901, sappiamo che l’Istituto aveva avuto un bibliotecario-archivista, Annibale Tenneroni, che in quell’anno era stato messo a riposo. Parte delle sue mansioni saranno affidate a Luigi Schiaparelli. Anni dopo Ernesto Monaci lamentava in una lettera inviata a Oreste Tommasini (24 settembre 1916), che una sede propria avrebbe permesso di «ordinare una biblioteca che finora è soltanto un magazzino […] pei topi».
Nel 1920 risulta essere presente in Istituto Giustino Colaneri che curava la biblioteca e l'archivio dell'Istituto (adunanza di giunta del 24 maggio 1920).
A seguito della richiesta inoltrata dal presidente dell’Istituto, il 23 febbraio 1926, con decreto del Ministero della pubblica istruzione firmato da Pietro Fedele, la biblioteca viene ammessa al prestito dei libri con le biblioteche pubbliche governative, con l’obbligo della reciprocità.
Tra il 1927 e il 1932 vengono eseguiti numerosi lavori di adeguamento dei nuovi locali concessi in uso per la sede dell’Istituto (1924) dal Governatorato di Roma. Si provvede anche ad eseguire una serie di interventi per accogliere i volumi che costituiscono la parte primordiale dell’attuale biblioteca e che nel tempo saranno destinati ad aumentare.
Nel giugno del 1929 vengono ottenuti gratuitamente dalla Camera dei Deputati degli scaffali per la biblioteca e l'anno successivo Angelo De Santis, già bibliotecario presso la biblioteca Casanatense, viene nominato direttore della biblioteca dell'Istituto, in quanto comandato presso la Scuola storica. Nel giugno del 1931 si provvede alla realizzazione di una grande scaffalatura in noce per il salone delle conferenze, che oggi accoglie i periodici. Nel marzo 1934 vengono eseguiti i lavori nella sala Ferraioli, oggi destinata alla consultazione.
A partire dal 1942 la biblioteca è gestita da Angelo De Santis bibliotecario, e da Giustino Colaneri e Vespasiano Barbieri in qualità di aiuto bibliotecario. Dal 1944 diversi studiosi si occuparono degli acquisti dei volumi, dei cambi e della gestione degli utenti: dapprima Ottorino Bertolini (che il 14 gennaio 1944 fu nominato anche direttore della biblioteca), poi Arsenio Frugoni e in seguito Raoul Manselli, coadiuvati dal 1956 da Wanda Cherubini in qualità di aiuto bibliotecario. Morti Frugoni e Manselli la biblioteca fu affidata a Wanda Cherubini, che se ne occupò fino al gennaio 1993, coadiuvata da Marta Gianni Orioli, che nel marzo 1993 subentrò al suo posto.
Dal 2001 il direttore della biblioteca è il presidente Massimo Miglio; da quel momento la gestione della biblioteca è stata affidata ad Anna Maria Velli, che fu poi affiancata da Federica Pacelli e Francesca Cirilli. Al pensionamento di Velli, Pacelli e Cirilli sono subentrate al suo posto nella gestione della biblioteca.
Oggi, il patrimonio librario comprende circa 66.000 volumi, e abbraccia oltre al tema centrale delle fonti, anche molteplici aspetti della storia e della cultura medievale.
La biblioteca possiede un catalogo cartaceo aggiornato a tutto il 2000, a partire dal 2001 la catalogazione dei volumi è proseguita con l’immissione nella rete Urbs. Nel 2006 la biblioteca è entrata a far parte del Servizio Bibliotecario Nazionale.

La sezione comprende la documentazione relativa alla gestione della biblioteca dell'Istituto: corrispondenza con diversi enti nazionali ed esteri (librerie, tipografie, biblioteche) e studiosi, documentazione relativa agli acquisti, ai cambi e ai prestiti e registri di presenza degli studiosi.
Le domande di ammissione alla biblioteca sono state prodotte e conservate in fascicoli del carteggio generale. A partire dal 1985 sono state conservate separatamente e costituiscono da tale data una serie a sé stante.

A. FORNI, L'Istituto storico italiano, in Speculum mundi, Roma centro internazionale di ricerche umanistiche, cur. P. VIAN, Roma 1993, pp. 599-654: 609; M. MIGLIO, Nella sede dell’Istituto. Da Palazzo Chigi a Piazza dell’Orologio, in Trier-Mainz-Rom. Stationen, Wirkungsfelder, Netzwerke. Festschrift für Michael Matheus zum 60. Geburstag, cur. A. ESPOSITO – H. OCHS, Regensburg 2013, pp. 403-412; M. MIGLIO, Pietro Fedele presidente dell’Istituto storico italiano, in La figura di Pietro Fedele. Intellettuale, storico, politico, Atti del Convegno nazionale di Studi Storici (Minturno, 29 settembre 2012), cur. C. FROVA, Roma 2016, (Quaderni della Scuola nazionale di studi medievali, 8), pp. 19-40: 28-30.