Po zajęciu przez wojska niemieckie Białorusi odtworzył w lipcu 1941 r. swój oddział partyzancki. Współpracował z ukraińskimi partyzantami. W 1942 r. został jednym z przywódców konspiracyjnej Białoruskiej Partyzantki Ludowej działającej na Polesiu. Zasiadał w tzw. "Ławie Atamanów". Jednocześnie wchodził w skład nielegalnej Białoruskiej Ludowej Hromady. W 1943 r. działał na Wołyniu wespół z ukraińskimi oddziałami partyzanckimi Siczy Poleskiej atamana Tarasa Bulby-Borowcia. Podczas ewakuacji Niemców z okupowanej Białorusi pod koniec czerwca 1944 r. oddział J. Chareuskiego zdobył niemiecki magazyn wojskowy w Lubaszowie. Do końca lat 40. prowadził ciężkie walki z Sowietami na Pińszczyźnie i w rejonie Brześcia, stale współpracując z Ukraińską Powstańczą Armią. W 1948 r. przeszedł w rejonie Terespola do Polski. Następnie przedostał się przez Czechosłowację do zachodnich Niemiec. W 1949 r. J. Chareuski wraz ze swoimi podkomendnymi wyemigrował do Brazylii, gdzie stanął na czele południowoamerykańskiego oddziału Związku Byłych Uczestników Zbrojnej Walki o Wyzwolenie Białorusi. W 1968 r. w piśmie "Беларускі Голас", wydawanym w Toronto, ukazał się artykuł jego autorstwa pt.