Po sezonie razem z Sinamą-Pongolle w końcu trafili na dłużej do Liverpoolu. W Premiership Le Tallec zadebiutował 13 września 2003 roku w wygranym 3:1 wyjazdowym meczu z Blackburn Rovers. Jednak nie miał zbyt dużych szans na grę w pierwszym składzie (rozegrał tylko 13 meczów ligowych i nie zdobył w nich gola), a konkurencja w ataku LFC była naprawdę duża. Wystarczy wymienić takie nazwiska jak: Michael Owen, Emile Heskey, El Hadji Diouf czy Milan Baroš. Dlatego też latem 2004 Liverpool wypożyczył Le Talleca do beniaminka Ligue 1, AS Saint-Étienne. W Saint-Étienne również nie poszło mu najlepiej i przez rundę jesienną rozegrał 10 meczów zdobywając tylko 1 gola w meczu z RC Strasbourg. W styczniu 2005 Le Tallec powrócił do zespołu "The Reds", jednak w dalszym ciągu grał tylko końcówki meczów – przez rundę wiosenną uzbierało się ich 4. Za to może czuć się pełnoprawnym zdobywcą Pucharu Mistrzów, kiedy to Liverpool pokonał po rzutach karnych A.C. Milan. W drodze do tego triumfu Le Tallec miał i swój udział rozgrywając 4 mecze i m.in. zaliczając asystę w wygranym 2:0 meczu z Juventusem.