Równocześnie pozostawał aktywny w swoim kraju. Uczestniczył w zakładaniu nowych, półlegalnych stowarzyszeń pracowniczych, a po uchwaleniu nowych regulacji prawnych w ich kwestii współtworzył Paryską Federację Stowarzyszeń Robotniczych (Fédération parisienne des sociétés ouvrières), z programem zdecydowanie socjalistycznym. Rozwinęła się ona później w dzisiejszą centralę związkową CGT. Varlin, nadal zafascynowany Proudhonem, brał również udział w tworzeniu dwóch zakładów kontrolowanych przez pracowników - fabryki La Ménagère w 1867, a rok później restauracji La Marmite. Obydwa zakłady uzyskiwały dobre wyniki ekonomiczne, zostały zamknięte na fali represji po Komunie Paryskiej.
Varlin był wielokrotnie zatrzymywany przez francuską policję za swoją socjalistyczną aktywność. W sierpniu 1870, w momencie upadku Cesarstwa, był komendantem 193 batalionu Gwardii Narodowej i członkiem jej zarządu, które to stanowiska stracił na skutek polityki Komitetu Obrony Paryża. W czasie oblężenia miasta organizował robotnicze stowarzyszenia samopomocy, w lutym bez powodzenia kandydował do parlamentu. Został za to sekretarzem francuskiej sekcji Międzynarodówki.