Archiwum Diecezjalne w obecnej formie zostało erygowane 5 XII 1922 roku przez bp. bł. Antoniego J. Nowowiejskiego, a jego pierwszym został mianowany ks. Władysław T. Mąkowski, liturgista, historyk i działacz społeczny. Archiwum powstało ze scalenia różnych, oddzielnych dotychczas, zespołów: archiwum kapituły katedralnej płockiej, archiwum kapituły pułtuskiej, archiwum konsystorza płockiego, archiwum konsystorza pułtuskiego, archiwum Kurii Diecezjalnej Płockiej oraz archiwów seminariów pułtuskiego i płockiego. Połączone zespoły przeniesiono w 1926 roku do nowo wybudowanego gmachu na terenie seminarium duchownego. Z czasem zasób powiększono o zbiór ksiąg metrykalnych sprowadzanych z parafii diecezji.
Zimą i wiosną 1940 roku, podczas okupacji niemieckiej zbiory Archiwum wraz ze zbiorami biblioteki seminaryjnej zostały zrabowane i wywiezione do Królewca. Latem 1945 roku prawie nieuszkodzone zbiory zostały dzięki wysiłkom ks. Romualda Zawistowskiego, ks. Jakuba Wójcickiego i ks. Mieczysława Żywczyńskiego odnalezione, sprowadzone do Płocka, gdzie do dziś są przechowywane i udostępniane.