Pierwszym rektorem Uniwersytetu został dr Juda Magnes, który musiał zorganizować funkcjonowanie całej uczelni. W pierwszych latach swojego istnienia, zajmowała się ona wyłącznie badaniami naukowymi, a dla studentów prowadzono jedynie letnie kursy przygotowawcze. Normalne nauczanie rozpoczęło się od 1928 roku. W 1931 botanik Alexander Eig założył na górze Ogród Botaniczny Uniwersytetu Hebrajskiego. Jest to jeden z największych zbiorów izraelskich roślin. Była to także pierwsza siedziba jerozolimskiego ogrodu zoologicznego. W 1935 roku Juda Magnes przeprowadził gruntowną reformę strukturalną uniwersytetu, przygotowując go w ten sposób pod dalszy rozwój. Po jej ukończeniu, obowiązki rektora przejął prof. Hugo Bergmann. W latach 30. XX wieku na uniwersytet przybyli żydowscy naukowcy z Europy, którzy w ramach piątej Aliji przybyli do Palestyny. W 1934 roku przyjechał Hans Jakob Polotsky, który utworzył Katedrę Językoznawstwa. W 1935 roku przyjechał Władysław Farkas, który założył Wydział Chemii, Bernhard Zondek został profesorem ginekologii, Hanoch Albeck utworzył szkołę Talmudu, a Martin Buber włożył wkład w filozofię. W 1942 roku w osadzie Rechowot otworzono wydział rolnictwa. Do 1947 roku uniwersytet był już ważną instytucją naukowo-dydaktyczną, która stopniowo zyskiwała światową renomę.