24 lipca 1960 w Berlinie Steinbach uzyskał w skoku w dal odległość 8,14 m, o 1 centymetr większą od rekordu świata należącego go Jessego Owensa. Wynik ten nie został jednak uznany za rekord z powodu braku pomiaru siły wiatru. Na igrzyskach olimpijskich w 1960 w Rzymie Steinbach zajął 4. miejsce w skoku w dal z wynikiem 8,00 m, który był również rekordem RFN.
Oprócz wymienionych wyżej rekordów Steinbach był również rekordzistą NRD w biegu na 100 metrów (10,4 s w 1956), biegu na 200 metrów (dwukrotnie 21,2 s w 1956) i w sztafecie 4 × 100 metrów (do wyniku 41,0 w 1957).
Był mistrzem NRD w biegach na 100 metrów i na 200 metrów w 1956, mistrzem NRD w 1956 i brązowym medalistą w 1957 w sztafecie 4 × 100 metrów, a także mistrzem RFN w skoku w dal w latach 1960–1962. Był również halowym wicemistrzem RFN w skoku w dal w 1959 i brązowym medalistą w 1960 oraz brązowym medalistą w biegu na 60 metrów w 1959.
Zakończył karierę lekkoatletyczną w 1967.