Przechodząca przez powiat granica regionów powoduje duże zróżnicowanie wysokościowe terenu. Garb Gielniowski to pas wzniesień zbudowanych z piaskowców, które licznie występują w okolicach Szydłowca. Najwyższe wzniesienia przekraczają 300 m n.p.m., m.in. Altana (408 m n.p.m.), która jest najwyższym wzniesieniem w województwie mazowieckimSzlaki Rowerowe Ziemi Szydłowieckiej, Szydłowiec: Stowarzyszenie Rozwoju Ziemi Szydłowieckiej, 2007, s. 31., Cymbra (378 m n.p.m.) oraz Skłobska Góra (347 m n.p.m.). Przedgórze Iłżeckie to liczne grzbiety zbudowane ze skał wapienno-marglistych, w których rozwijają się zjawiska krasowe, widoczne niekiedy na powierzchni w postaci lejów i zapadlisk. Równina Radomska to głównie obszar rolniczy, słabo porośnięty lasami. Na terytorium powiatu przeważają tereny lekko faliste.
Powiat szydłowiecki pod względem geologicznym zbudowany jest głównie z osadów mezozoicznych okresu jurajskiego oraz utworów trzeciorzędowych. Występują tu liczne surowce mineralne takie jak: ruda żelaza, wapień, margiel, piaskowiec, gliny ogniotrwałe i ceramiczne oraz żwiry i piaski. Na terenie powiatu dominują gleby średniej i słabej jakości, klas V i VI bielicowe na podłożu kamiennym, piaszczystym i gliniastym.