W marcu 1989 objął stanowisko ministra ds. szkół w resorcie edukacji w gabinecie Ingvara Carlssona, urząd ten sprawował do października 1991, kiedy to jego ugrupowanie przeszło do opozycji. Powrócił do rządu w październiku 1994, po zwycięstwie Szwedzkiej Socjaldemokratycznej Partii Robotniczej w kolejnych wyborach, obejmując urząd ministra finansów w kolejnym rządzie Ingvara Carlssona. W marcu 1996 Ingvar Carlsson zapowiedział rezygnację z funkcji partyjnych i rządowych. Göran Persson był faworytem do zostania jego następcą od listopada 1995, gdy po tzw. aferze Toblerone z działalności politycznej zrezygnowała Mona Sahlin. Göran Persson objął stanowisko przewodniczącego SAP, a 22 marca 1996 stanął na czele szwedzkiego rządu.
Urząd premiera utrzymywał także po wyborach parlamentarnych w 1998 i 2002. Jego gabinet miał charakter rządu mniejszościowego, wspieranego jednak przez zielonych i postkomunistów. Szwedzkim rządem kierował przez ponad 10 lat. Wybory w 2006 zakończyły się zwycięstwem centroprawicowej opozycji, 6 października 2006 nowym premierem stanął Fredrik Reinfeldt z Umiarkowanej Partii Koalicyjnej. Göran Persson w marcu 2007 ustąpił z kierowania partią, a miesiąc później złożył mandat deputowanego.