Od 1964 zamieszkał w Trosly-Breuil, gdzie mieszkał o. Philippe. Tam dał początek wspólnocie L’Arche, której nazwa nawiązuje do biblijnej arki Noego. Początkowo mieszkał z dwoma niepełnosprawnymi intelektualnie mężczyznami, Raphealem Simim i Philippe’em Seuxem. W następnych miesiącach i latach zamieszkali w domu Arki kolejni mieszkańcy, zarówno osoby niepełnosprawne, jak i wolontariusze (tzw. asystenci). Już w 1965 wspólnota liczyła ok. 50 osób i miała pod swoją opieką dwa domy (przejęła bowiem odpowiedzialność za likwidowany dom dla osób niepełnosprawnych), starając się połączyć wymagania profesjonalnej opieki medyczno-socjalnej z budowaniem wspólnoty o fundamencie chrześcijańskim, w kolejnych latach kolejne domy wspólnoty powstawały na wszystkich kontynentach. W maju 2019 roku ruch obejmował 154 wspólnoty na całym świecie.
Jean Vanier łączył kierowanie L’Arche z aktywną działalnością rekolekcyjną i odczytową na całym świecie. W 1971 zainicjował wraz z Marie-Hélène Mathieu ruch Wiara i Światło. W 1975 zrezygnował z funkcji koordynatora międzynarodowego L’Arche, od 1980 nie pełnił już we wspólnocie żadnych stanowisk.