Po klęsce insurekcji wyemigrował, ale po ogłoszeniu amnestii wkrótce powrócił na Litwę, już pod rosyjskim zaborem.
Po inwazji Napoleona na Rosję otrzymał 1 lipca 1812 z rąk cesarza powołanie na członka Komisji Rządu Tymczasowego Wielkiego Księstwa Litewskiego, w którym odpowiadał za wydział (resort) sprawiedliwości. Po odwrocie Wielkiej Armii z Rosji ewakuował się z nią do Drezna, tam zakończył urzędowanie w Komisji w lipcu 1813. Dzięki ogłoszeniu amnestii mógł po 1815 wrócić do kraju i odzyskać skonfiskowane przez Rosjan posiadłości. Zmarł w 1821.
Potomstwo Z żoną Amelią z Sapiehów (1762-1835), córką hetmana Aleksandra Michała Sapiehy miał siedmioro dzieciFranciszek Jelski h. Pielesz, sejm-wielki.pl:
Ludwik Jelski (1785-1843), uczestnik kampanii napoleońskich, prezes Banku Polskiego, zastępca ministra skarbu podczas powstania listopadowego Izabela z Jelskich Potocka (1788-1868), żona gen. Antoniego Potockiego Anna Ewa Teresa Jelska (1788-?) Karolina z Jelskich Jezierska (1789-1859), żona Jana Nepomucena hr.