Teren powiatu poprzecinany był utworami głównie formacji karbońskiej – Wzgórza Chorzowskie ciągnące się od Lipin po Siemianowice (320 m n.p.m.) i Płaskowyż Katowicki (340 m n.p.m.) z zespołem wzgórz koło Halemby (300 m n.p.m.). Główną cechą rzeźby terenu była nieznaczna pagórkowatość, podobna do falistej równiny. Maksymalna różnica wysokości wynosiła przy tym 170 m (okolica Grodźca – Wzgórze Doroty 382 m n.p.m., Gliwice – Dolina Kłodnicy 212 m n.p.m.). Obszar powiatu opadał ze wschodu ku zachodowi.
Istotny wpływ na rozwój gospodarczy powiatu wywarła budowa geologiczna jego podłoża, a zwłaszcza występowanie złóż wysokogatunkowego węgla kamiennego. Usytuowanie powiatu w obrębie bogatej kopaliny Wyżyny Śląskiej wywarło zasadniczy wpływ na jego górniczo-przemysłowy charakter. Z drugiej strony, intensywne zagospodarowywanie terenu powiatu spowodowało daleko idące przeobrażenia głównych komponentów środowiska geograficznego. W rezultacie środowisko to zatraciło szereg cech naturalnych (pierwotnych), a nabyło cechy wtórne, będące wynikiem oddziaływania człowieka.