Aresztowanie i śmierć Padł ofiarą stalinowskich czystekJ. Smele, The "Russian" Civil Wars 1916–1926. Ten Years That Shook the World, Hurst&Company, London 2016, , s. 298.. Według części źródeł został rozstrzelany, według innych - zmarł wskutek tortur, jakim został poddany w śledztwie przez funkcjonariusza NKWD Aleksandra Langfanga. W 1957 r. został całkowicie zrehabilitowany.
Życie prywatne 200px|thumb|Zdemontowane pomniki estońskich działaczy komunistycznych – Hansa Pöögelmanna, gen. Lembita Pärna i Jaana Anvelta w Muzeum Okupacji w Tallinnie |alt= W latach 1909–1910 jego żoną była Alma Ostra, również działaczka partii socjaldemokratycznej. Małżeństwo to miało fikcyjny charakter i miało umożliwić kobiecie zmianę nazwiska"Alma Ostra-Oinas", National Library of Estonia. [dostęp 25 lutego 2019]. W 1912 r. zawarł drugie małżeństwo z J. Wasiljewą. Po raz trzeci ożenił się z estońską malarką i działaczką rewolucyjną Alisą Marią Leevald. Z tego związku urodziła się córka Kimu i syn Jaan. Wnuk Jaana Anvelta Andres jest oficerem policji, działaczem Socjaldemokratycznej Partii Estonii, w latach 2016−2018 r. był ministrem spraw wewnętrznych Estonii.