Członkowie Black Sabbath w międzyczasie zmagali się z nasilającymi się kłopotami. Uzależnienie od narkotyków, problemy z zarządzaniem zespołem i początki wewnętrznych sporów wpłynęły destruktywnie na prace nad kolejnym albumem. Mimo trudności, w 1975 pojawiała się płyta Sabotage, która dość szybko odniosła sukces na rynku. Muzyka na albumie była bardziej rozbudowana i wielowątkowa niż dotychczas. Z kolei płyta Technical Ecstasy z 1976 okazała się komercyjnym niepowodzeniem. Muzyka zespołu w tym czasie obfitowała w syntezatorowe, a nawet orkiestrowe efekty, lecz została pozbawiona dawnej spontaniczności i ciężaru. Never Say Die! z 1978 to powrót grupy do cięższego grania. Album sprzedawał się trochę lepiej od poprzednika.
W 1979 Osbourne odszedł z zespołu, by rozpocząć solową karierę. Jego miejsce w zespole zajął Ronnie James Dio, były wokalista zespołu Rainbow. Razem z Dio zespół nagrał płyty, takie jak Heaven and Hell czy Mob Rules, jak również koncertową pt. Live Evil. Po nagraniu albumów Dio opuścił zespół, a jego miejsce zajął Ian Gillan z Deep Purple. Black Sabbath razem z nowym wokalistą nagrali album pt. Born Again.