Siedziba archiwum Archiwum Państwowe mieści się w eklektycznym budynku wzniesionym jako budynek administracyjno-mieszkalny stoczni Theodora i Adolfa Wulffów. Po upadku tej firmy był on siedzibą Komisji Generalnej dla Prowincji Poznańskiej i Prus Zachodnich w Bydgoszczy, a po jej likwidacji, od 1906 był użytkowany jako archiwum akt. Na fasadzie tablica pamiątkowa ku czci archiwisty Zygmunta Malewskiego (1875–1937).
Po prawie 130 latach działalności w XIX-wiecznym obiekcie przy ul. Dworcowej Archiwum Państwowe w Bydgoszczy zmieniło swoją siedzibę. Nowoczesny gmach przy ul. Karłowicza 17 został zaprojektowany z myślą o zapewnieniu jak najlepszych warunków pracy dla archiwistów oraz przechowywania i udostępniania bezcennych dokumentów historycznych. Budowa nowej siedziby rozpoczęła się w 2021 r. 4 lipca 2022 r. odbyła się uroczystość wmurowania kamienia węgielnego. Otwarcie miało miejsce we wrześniu 2023 roku.