Przed rozpoczęciem sezonu 2005/2006 trener Getafe – Quique Flores został szkoleniowcem Valencii. Flores sprowadził Albiola do Valencii, w efekcie czego Estadio Mestalla opuścił Mohamed Sissoko. W sezonie 2005/2006 Albiol rozegrał dla swojego zespołu 29 spotkań w Primera División. Najczęściej grał na pozycji stopera, gdzie wcześniej występował Carlos Marchena. W 2006 roku chęć pozyskania Albiola wyraził Real Madryt, jednak gracz przedłużył kontrakt z Valencią do 2011 roku. 26 sierpnia 2006 roku Albiol strzelił zwycięskiego gola w wygranym 2:1 pojedynku z Realem Betis. W sezonie 2006/2007 wystąpił w 36 meczach w Primera División i razem z Valencią zajął czwarte miejsce w ligowej tabeli. 21 września 2008 roku Albiol rozegrał swoje setne ligowe spotkanie dla hiszpańskiego klubu. W marcu 2009 roku piłkarz poinformował, że zamierza pozostać w Valencii do końca kariery.
25 czerwca 2009 roku za pośrednictwem swojej oficjalnej strony internetowej działacze Realu Madryt potwierdzili transfer Albiola do ich klubu. Real zapłacił za piłkarza 15 milionów euro. Albiol podpisał z nowym klubem pięcioletni kontrakt, na mocy którego zarabia 2 miliony euro rocznie.
18 lipca 2013 roku za sumę 12 mln euro przeszedł do włoskiego SSC Napoli.