Un gruppo di lavoro si riunì in occasione del Congresso internazionale di scienze storiche tenutosi a Vienna nel 1965, per iniziativa del professor Jindrich Sebánek, il quale propose al CISH di formare un organismo internazionale per lo studio della diplomatica ed eventualmente delle scienze ausiliarie alla storia.
Il Bureau del CISH incaricò il professor Raffaello Morghen di formare un gruppo provvisorio, che lavorasse insieme alla Commissione del Repertorio per le fonti storiche medievali (1967). Il gruppo di lavoro deciderà nel 1968 di limitarsi allo studio della diplomatica, pur tuttavia mantenendo un legame con gli organismi delle altre scienze ausiliare (paleografia e sigillografia).
L'assemblea generale del CISH, durante il Congresso di Mosca (1970), riconobbe la Comissione internazionale di diplomatica come una delle sue commissioni interne. Fu allora costituito un comitato provvisorio, e stabilito uno statuto. La commissione fu definitivamente costituita sotto la presidenza del professor Giulio Battelli, durante il congresso internazionale di diplomatica tenuto a Roma nel 1971.
La Commissione, oltre alle sue assemblee e alle sue giornate di lavoro nel quadro del CISH, ha tenuto propri congressi internazionali su temi di interesse generale per la diplomatica.
La Commissione organizza, inoltre, colloqui tecnici annuali allo scopo di realizzare 1. la normalizzazione internazionale delle edizioni dei documenti; 2. l'istituzione di un vocabolario internazionale della diplomatica. I lavori delle due iniziative sono al momento molto avanzati e una edizione provvisoria delle norme e del vocabolario è al momento in corso di stampa.
La Commissione patrocina anche l'indice degli atti pontifici da Innocenzo III a Martino V (1198-1417), conservati negli archivi dei destinatari e nelle biblioteche; attualmente sono stati pubblicati tre volumi. La Commissione ha stabilito di copatrocinare la preparazione di una Gallia pontificia, che sarà impostata come la Germania pontificia e l'Italia pontificia.
La Commissione è attualmente composta da 53 membri.