Na początku lat 90. jego nazwisko (podobnie jak m.in. Mieczysława Rakowskiego) było łączone ze sprawą tak zwanej moskiewskiej pożyczki. Po ujawnieniu tej sprawy w 1991 Włodzimierz Cimoszewicz bezskutecznie wzywał go do nieskładania poselskiego ślubowania.
Od 26 października 1993 do 7 lutego 1996 pełnił funkcję ministra pracy i polityki socjalnej w rządach Waldemara Pawlaka i Józefa Oleksego. W rządzie Włodzimierza Cimoszewicza 26 stycznia 1996 objął stanowisko szefa Urzędu Rady Ministrów. Od 1 stycznia 1997 do 17 października 1997 stał na czele zreformowanego Ministerstwa Spraw Wewnętrznych i Administracji. Po raz pierwszy w kierownictwie tego resortu znalazły się kobiety (Katarzyna Piekarska i Małgorzata Winiarczyk-Kossakowska).
W trakcie Sejmu III kadencji był przewodniczącym klubu parlamentarnego opozycyjnego SLD. W 1999 doprowadził do utworzenia na bazie większości organizacji działającej w ramach koalicji SLD jednolitej partii politycznej pod tą nazwą. 1 lipca 1999 w ramach wyboru władz organizacyjnych został przewodniczącym tymczasowej rady krajowej Sojuszu Lewicy Demokratycznej, a na kongresie założycielskim z 18 i 19 grudnia tegoż roku został wybrany na pierwszego przewodniczącego nowego ugrupowania.