W 2004 roku Fuller odszedł z Preston i został zawodnikiem grającego w Premiership, Portsmouth F.C. Kosztował milion funtów, a 30 sierpnia zadebiutował w lidze w wygranym 4:3 domowym spotkaniu z Fulham F.C. Nie wykorzystał jednak szansy zaistnienia w Portsmouth i przez cały sezon zdobył zaledwie jedną bramkę dla „The Pompeys”, mniej niż pozostała trójka napastników: Lomana LuaLua, Diomansy Kamara i Yakubu Aiyegbeni.
W letnim oknie transferowym 2005 Fuller znów zmienił barwy klubowe i tym razem przeszedł do Southampton F.C. W lutym 2006 został wypożyczony do Ipswich Town, dla którego rozegrał trzy spotkania, zdobył dwa gole i otrzymał czerwoną kartkę w meczu z Crystal Palace (2:2) za obsceniczny gest wobec kibiców tego klubu. Pod koniec marca wrócił do Southampton. Do końca sezonu w 6 meczach zdobył 6 goli dla „Świętych”, jednak latem 2006 menedżer George Burley wystawił go na listę transferową.