W południowej części Jemenu ciągną się Góry Nadbrzeżne, które są niższe, niż te leżące w głębi kraju. W masywie Khaur nad wschód od miasta Aden osiągają około 2500 m n.p.m. Wschodnia część tych gór ma raczej charakter płaskowyżu, gdzie przeciętne wysokości oscylują w granicach 2000 m n.p.m. Obszary te zbudowane są z jurajskich i kredowych piaskowców, oraz wapieni. Wschodnia część tych gór, która przechodzi w obszar płaskowyżu, nosi nazwę Jols i w wielu miejscach dochodzi do samego morza. Układ tektoniczny spowodował, że w okresie czwartorzędu, gdy klimat był wilgotniejszy; płynące wody uformowały głęboką dolinę rzeczną. Wadi Hadramaut jest długa na około 500 km, i obecnie w czasie gwałtownych deszczów wypełnia się wodą. Dolina ta przecina płaskowyż Jols i osiąga wybrzeże Morza Arabskiego. Ku wschodowi płaskowyż przechodzi w suchą wyżynę Szarki, która wznosi się na 1 000 do 2000 m n.p.m. i stanowi część Ar-Rab al-Chali. thumb|left|400px|Górzyste wnętrze kraju
Klimat Jemen znajduje się w strefie klimatu zwrotnikowego, który na większości obszarów posiada suchą odmianę. Charakter rzeźby terenu sprawia, że klimat jest lokalnie zróżnicowany.