Po nominacji kardynalskiej został pełnoprawnym prefektem Kongregacji, objął także honorową funkcję Wielkiego Kanclerza Papieskiego Uniwersytetu Miejskiego w Rzymie.
Kardynał Tomko wielokrotnie reprezentował Jana Pawła II na uroczystościach religijnych i rocznicowych w charakterze specjalnego wysłannika. Był m.in. na obchodach 100-lecia ewangelizacji Mali w Bamako (listopad 1988), na IV Latynoamerykańskim Kongresie Misyjnym w Limie (luty 1991), na 100-leciu Kościoła katolickiego w Kamerunie (grudzień 1991), na 150-leciu ewangelizacji królestwa Tonga (listopad 1992) i Fidżi (sierpień 1994). W styczniu 1996 został promowany do rangi kardynała prezbitera, otrzymał tytuł prezbitera S. Sabina.
Ze względu na osiągnięcie wieku emerytalnego został w kwietniu 2001 zwolniony z obowiązków prefekta Kongregacji ds. Ewangelizacji Narodów. Od października 2001 do końca września 2007 był prezydentem Papieskiej Komisji ds. Międzynarodowych Kongresów Eucharystycznych. Po ukończeniu 80. roku życia w marcu 2004 kardynał Tomko utracił prawo udziału w konklawe.
Po śmierci kard. Alberta Vanhoya 29 lipca 2021, był najstarszym żyjącym kardynałem. Zmarł 8 sierpnia 2022 w Rzymie i został pochowany w katedrze w Koszycach. Po jego śmierci najstarszym żyjącym kardynałem stał się Alexandre do Nascimento.