W 1989 uczestniczył w obradach Okrągłego Stołu jako wiceprzewodniczący zespołu do spraw oświaty i nauki z ramienia strony opozycyjnej.
Po utworzeniu rządu Tadeusza Mazowieckiego został wiceministrem edukacji narodowej, funkcję tę pełnił do zmiany rządu w 1991. Wchodził również w skład zarządu Towarzystwa Popierania i Krzewienia Nauk, w latach 1999–2002 przewodniczył radzie programowej tej organizacji. Przed wyborami parlamentarnymi w 2001 był członkiem wyborczego komitetu honorowego Unii Wolności.
Został pochowany na cmentarzu Komunalnym Północnym w Warszawie.
Wybrane publikacje J. Grzelak, Konflikt interesów, Warszawa: PWN, 1978. J. Grzelak, Bezradność społeczna. Szkic teoretyczny, [w:] M. Kofta (red.), Psychologia aktywności, Poznań: Nakom, 1993. J. Grzelak, G. Wieczorkowska-Nejtardt, Attitudes toward public affairs in society in transition, [w:] D. Messick & W. Liebrand (red.), Social Dilemmas, New York: Plenum, 1996. J. Grzelak, Współzależność społeczna, [w:] J. Strelau (red.), Psychologia, tom 3, Gdańsk: Gdańskie Wydawnictwo Naukowe, 2000, s. 125–143. J. Grzelak, A. Nowak, Wpływ społeczny, [w:] J. Strelau (red.), Psychologia, tom 3, Gdańsk: Gdańskie Wydawnictwo Naukowe, 2000, s. 187–203. J. Grzelak, O intencjach, kontroli i zaufaniu, [w:] D. Doliński, B.