Tytuł i oprawa graficzna Jhonn Balance wyjaśnił, że ostateczny tytuł płyty wziął się z jego snu. W śnie "Czterej Jeźdźcy Apokalipsy, zamiast przybyć konno i zniszczyć świat, po prostu zabili swoje konie i użyli ich szczęk do konstrukcji wielkiej maszyny (...) tytułowy horse rotorvator to rodzaj poruszającej ziemię machiny, zrobionej z końskich szczęk"STATOR MAGAZINE & COMPILATION LP. Do snu nawiązuje też tekst wydrukowany na okładce albumu
Inne wyjaśnienie tytułu wiąże się z okładką, przedstawiającą charakterystyczną estradę w Hyde Parku. Podobna estrada została wysadzona w powietrze podczas podwójnego zamachu terrorystycznego IRA 20 lipca 1982 roku w Regent’s Park i Hyde Parku. W drugim wybuchu podczas policyjnej parady oprócz ludzi zginęło też siedem policyjnych koni1982: IRA bombs cause carnage in London BBC news. Coil potwierdzili, że okładka ma związek z tymi wydarzeniami, ale odmówili komentarza na temat związku tragedii z ich politycznymi poglądami. Balance powiedział, że "to był krwawy, dziwaczny i chory obraz, ludzie idący ulicą i końska krew spadająca na ich głowy""It was a bloody bizarre and sick picture where people walking in the streets had pieces of horsegore raining over their heads".