W 1904 roku przeniósł się do Warszawy, gdzie zarabiał na życie jako nauczyciel. Podczas studiów na Cesarskim Uniwersytecie Warszawskim wstąpił w 1905 roku do socjaldemokratycznej syjonistycznej partii Poalej Syjon. Stało się tak po części z powodu zainteresowań jego ojca, jak i szoku wywołanego u Dawida obserwującego antysemickie pogromy i powszechną wówczas w Europie Wschodniej niechęć do Żydów. Podczas rewolucji 1905 roku był dwukrotnie aresztowany.

Emigracja do Palestyny thumb|Pracownicy gazety „Jedność” w 1912 roku. Od prawej siedzą: Icchak Ben-Zwi, Dawid Ben Gurion i Josef Chaim Brenner. Stoją: Aaron Re'uveni i Jaakov Zerubavel W 1906 roku wyemigrował do Palestyny, będącej wówczas częścią Imperium Osmańskiego. W miesiąc po przyjeździe został wybrany do Komitetu Centralnego nowo powstałego oddziału Poalej Syjon w Jafie. Prezentował bardziej nacjonalistyczne poglądy niż pozostali członkowie komitetu, którzy reprezentowali bardziej marksistowski światopogląd polityczno-społeczno-gospodarczy. Rok później Dawid skarżył się na rosyjską dominację w komitecie. W tym czasie w Palestynie było około 55 tys. Żydów, z czego 40 tys. było rosyjskimi imigrantami. W sposób zrozumiały przekładało się to na wpływy polityczne w Poalej Syjon. W 1907 roku Dawid pracował przy zbiorach pomarańczy w kolonii Petach Tikwa.