Działalność syjonistyczna Usyszkin był gorącym zwolennikiem rozwoju osadnictwa żydowskiego w Palestynie. Gdy w sierpniu 1884 roku powstało w Moskwie stowarzyszenie Benei Syjon, Usyszkin został wybrany do komitetu społecznego. Rok później został sekretarzem wszystkich grup Chowewej Syjon w Moskwie. Od 1887 roku publikował swoje artykuły w gazecie hebrajskiej Ha-Meliẓ. W 1887 roku uczestniczył w konferencji syjonistycznej w Druskienikach. Został wybrany jej sekretarzem. Doszło wówczas do sporu między frakcją popierającą ortodoksyjnego rabina Samuela Mohylewera a liberalną frakcją Leona Pinskera. Usyszkin zdołał załagodzić spór i doprowadził do pojednania. Przedstawione wtedy przez niego poglądy były pierwszą oznaką jego pragmatyzmu syjonistycznego. Od 1889 roku współpracował z Aszerem Ginsbergiem, zostając członkiem założonego przez niego elitarnego tajnego stowarzyszenia Bnei Mosze. Propagowało ono przekształcenie Chowewej Syjon w ruch na rzecz odrodzenia kultury i języka hebrajskiego. Stowarzyszenie to było aktywne przez osiem lat i osiągnęło liczne sukcesy. W 1890 roku uczestniczył w spotkaniu założycielskim Komitetu Odessy ruchu Chowewej Syjon.