na kolejne kadencje radni wybierali go w 1994 i 1998.
Od 1991 działał w Kongresie Liberalno-Demokratycznym, a od 1994 należał do Unii Wolności. W 2001 był jednym z założycieli Platformy Obywatelskiej w województwie śląskim. W latach 1995–2000 i 2003–2015 pełnił społeczną funkcję przewodniczącego Śląskiego Związku Gmin i Powiatów.
W 2002, w wyniku pierwszych bezpośrednich wyborów samorządowych, został kolejny raz prezydentem miasta, wygrywając w drugiej turze z kandydatem SLD – Stanisławem Ogryzkiem. W głosowaniu z 2006 skutecznie ubiegał się o reelekcję wygrywając w pierwszej turze z poparciem 55,97%. W 2007, po konflikcie z władzami krajowymi Platformy Obywatelskiej, odszedł z partii. W latach 2008–2010 zasiadał we władzach Ruchu Obywatelskiego „Polska XXI”.
8 listopada 2009 odbyło się referendum w sprawie odwołania organów samorządu terytorialnego w Gliwicach przed upływem kadencji, uznane za nieważne ze względu na zbyt niską frekwencję wyborczą, która wyniosła 11,74%. Rok później Zygmunt Frankiewicz po raz kolejny został prezydentem Gliwic, kandydując z ramienia własnego komitetu wyborczego, wygrał w drugiej turze z przedstawicielem PO – Zbigniewem Wygodą.