W sezonie 1957/1958 II liga została podzielona na dwie grupy: północną i południową. na skutek jej powiększenia, klub już jako Concordia Knurów, uzyskał awans jako wicemistrz Śląska z poprzedniego sezonu. Tym razem knurowianie grali na drugoligowych boiskach do sezonu 1959/1960. Zajmując 11. miejsce w grupie południowej (na 12 drużyn), zostawiając za plecami jedynie Wawel Wirek, spadli z ligi.
Kolejny awans do zaplecza ekstraklasy miał miejsce w sezonie 1980/1981. W inauguracyjnym meczu rywalem Górnika Knurów była Gwardia Warszawa. Spotkanie odbyło się w Knurowie, a Górnik zremisował bezbramkowo ze spadkowiczem I ligi. Sezon ten podopieczni Marcina Bochynka zakończyli na 11. miejscu wyprzedzając Broń Radom, Ursusa Warszawę, Concordię Piotrków Trybunalski, Jagiellonię Białystok i Star Starachowice.
W sezonie 1986/1987 i 1987/1988 Górnik zajmował w II lidze dwukrotnie trzecie miejsce, które uprawniało ich do występów w barażowych meczach o awans do ekstraklasy. Pierwszym razem przeciwnikiem Górnika była Stal Stalowa Wola. Pierwszy mecz u siebie, zakończył się zwycięstwem zespołu Marcina Bochynka 2:1 (bramki dla knurowian zdobyli Krzysztof Zagórski i Kozik).