Początkowo Instytut mieścił się w Warszawie przy ul. Śniadeckich 8, lecz wkrótce otrzymał 14 pokoi w Pałacu Staszica przy Krakowskim Przedmieściu.
Polska sieć synoptyczna składała się w 1924 z siedmiu stacji: Warszawy, Poznania, Lwowa, Wilna, Gdańska i Pińska. Wydział Morski PIM otrzymał siedzibę w 1930 w Obserwatorium Morskim w Gdyni. Pod koniec lat trzydziestych korzystano też z Obserwatorium Astronomiczno-Meteorologicznego na szczycie Pop Iwan w Beskidach Wschodnich.
Rozważano połączenie PIM z Państwowym Instytutem Hydrologicznym. Budowa wspólnej siedziby połączonych instytutów na warszawskich Bielanach nie doszła do skutku z powodu wybuchu II wojny światowej.
W 1946 roku powołano Państwowy Instytut Hydrologiczno-MeteorologicznyDekret z dnia 5 lutego 1946 r. o utworzeniu Państwowego Instytutu Hydrologiczno-Meteorologicznego. .