W 1986 po raz pierwszy znalazł się w parlamencie federalnym, wygrywając wybory uzupełniające przeprowadzone po rezygnacji Cecila Heftela, który chciał skupić się na swojej (ostatecznie nieudanej) kampanii wyborczej na gubernatora Hawajów. Abercrombie dokończył jego kadencję w Izbie Reprezentantów, ale nie zdołał uzyskać reelekcji, odpadając z wyścigu już na etapie prawyborów Partii Demokratycznej. Zamiast tego został wybrany do rady miasta Honolulu, gdzie zasiadał od 1988 do 1990. W 1990 ponownie wystartował w wyborach do Izby Reprezentantów USA. Zdołał uzyskać mandat i sprawował go nieprzerwanie przez ponad 19 lat, od stycznia 1990 do lutego 2010, kiedy to zrezygnował z pracy w Waszyngtonie, aby móc poświęcić cały swój czas kampanii gubernatorskiej.
We wrześniu 2010 uzyskał nominację Partii Demokratycznej na to stanowisko, pokonując w prawyborach byłego burmistrza Honolulu Mufiego Hannemanna. W listopadzie 2010 wygrał w wyborach z kandydatem Partii Republikańskiej Jamesem Aioną, dotychczasowym wicegubernatorem stanu. 6 grudnia 2010 został zaprzysiężony na siódmego w historii gubernatora Hawajów.
Życie prywatne Od 1981 Abercrombie jest żonaty z Nancie Caraway, znaną politolog i działaczką na rzecz praw kobiet. Nie mają dzieci.