Główne rzeki to Gwadalkiwir i Genil.
Na północy Andaluzji znajdują się góry Sierra Morena, 570-kilometrowy łańcuch górski. Góry te urwiście opadają ku dolinie Gwadalkiwiru. Z północy na południe przecina je głęboki wąwóz Despenaperros. Dalej, ku zachodowi, góry obniżają się, a ich łańcuchy rozszerzają się, zajmując północ prowincji Sevilla i Huelva. Dolina Gwadalkiwiru na południe od gór była kiedyś cieśniną morską łączącą Ocean Atlantycki z Morzem Śródziemnym. Glebę tworzą tu osady rzeczne. Płaska, nisko położona dolina jest najgęściej zaludnioną częścią Andaluzji. Wschód i południe Andaluzji wypełniają góry Sierra Nevada, najwyższe pasmo kontynentalnej Hiszpanii, z najwyższym szczytem Mulhacén (3478 m n.p.m.). W stronę ujścia Gwadalkiwiru i Cieśniny Gibraltarskiej ciągną się niewysokie łańcuchy Serrania de Ronda.
Hydrografia Andaluzja ma rzeki wpadające zarówno do Atlantyku jak do Morza Śródziemnego. Do Atlantyku wpadają: Guadiana, Odiel-Tinto, Gwadalkiwir, Guadalete, i Barbate. Do Morza Śródziemnego wpadają Guadiaro, Guadalhorce, Guadalmedina, Guadalfeo, Andarax i Almanzora. Spośród nich, Gwadalkiwir, jest najdłuższą rzeką w Andaluzji i piątą najdłuższą na Półwyspie Iberyjskim (657 km).