Polityka na szczeblu stanowym Był członkiem Parlamentu Nowej Południowej Walii w latach od 1983 do 2005 oraz liderem Australijskiej Partii Pracy w stanie Nowa Południowa Walia od 1988 do 2005. W 1995 kierowana przez niego ALP wygrała wybory stanowe, co dało mu fotel premiera Nowej Południowej Walii. W latach 1999 i 2003 kierowany przez niego rząd stanowy uzyskiwał reelekcję. Zrezygnował z funkcji premiera oraz członka parlamentu stanowego w sierpniu 2005, jego następcą został Morris Iemma.
Polityka na szczeblu federalnym W latach 2005–2012 Carr pozostawał na politycznej emeryturze, aktywnie udzielając się jednak jako uczestnik publicznych debat na różne tematy. Współpracował również z mediami, a także pełnił kilka stanowisk w biznesie. Na przełomie lutego i marca 2012 ogłoszono, iż Carr będzie kandydatem ALP do przejęcia mandatu w Senacie Australii, opróżnionego wskutek rezygnacji senatora Marka Arbiba. Było to pokłosie walk frakcyjnych wewnątrz ALP, w których mocno popierany przez Arbiba były premier Kevin Rudd został ostatecznie pokonany w rywalizacji o przywództwo w partii przez premier Julię Gillard. Zgodnie z australijskim prawem, decyzję o obsadzie federalnego mandatu senatorskiego opróżnionego w trakcie kadencji podejmuje parlament stanu, który reprezentował ustępujący senator.