Po wojnie powrócił do Brytyjskiego Mandatu Palestyny i w 1921 roku został aszkenazyjskim rabinem Jerozolimy, a w 1921 roku pierwszym aszkenazyjskim Naczelnym Rabinem Palestyny (do 1935 r.). W 1924 roku był założycielem jesziwy Merkaz Ha-Raw Kuk w Jerozolimie.
Kuk był wybitnym znawcą prawa halachicznego, zachowując przy tym niezwykłą otwartość umysłu na nowe pomysły. Zyskał w ten sposób wiele sympatii religijnych i niereligijnych ludzi, ale doprowadził także do braku zrozumienia jego idei przez skrajne ugrupowania. Kuk starał się budować i utrzymywać porozumienie między poszczególnymi grupami religijnymi i politycznymi, w tym między przywództwem świeckich organizacji syjonistycznych, syjonistami religijnymi i tradycyjnymi Żydami ortodoksyjnymi. Uważał, że współczesny ruch syjonistyczny dążący do stworzenia państwa żydowskiego w Palestynie („Ziemi Izraela”) ma głębokie znaczenie teologiczne. Syjonistów postrzegał jako emisariuszy realizujących niebiański plan zaprowadzenia ery mesjańskiej. Dzięki tej ideologii młodzi, świeccy, a często nawet anty-religijni pionierzy syjonistyczni emigrowali do Palestyny. Według Kuka, nawet ci nieświadomie pionierzy byli częścią wielkiego procesu, w którym Bóg przywracał naród żydowski po 2000-letnim wygnaniu do swojej ziemi w Palestynie.