Na północ od Wzgórza Gryca znajdowała się kopalnia piasku, pozostałości po niej można było dostrzec jeszcze w latach 90. XX wieku. Działalność górnicza oraz rozwój transportu doprowadziły do rozwoju kolonii i przyrostu liczby mieszkańców.
Karb należał do wsi Miechowice jako jej kolonia, został od niej odłączony w 1875 roku i utworzył samodzielną gminę, w tymże roku kolonia liczyła 48 właścicieli domów.
Karb na początku XX wieku był kolonią robotniczą, mieszkali w nim pracownicy huty żelaza Julia oraz kopalni węgla kamiennego Bobrek. W okresie powstań i plebiscytu jedną z bardziej aktywnych działaczek w Karbiu była Monika Miglancowa, radna i inicjatorka protestu, w konsekwencji którego Karb jako pierwsza gmina na Górnym Śląsku uzyskała pozwolenie na dodatkowe lekcje w języku polskim.
Karb od 1928 do 1951 roku należał do gminy Bobrek-Karb, 1 kwietnia 1951 roku został włączony do Bytomia.
Na skutek działalności wydobywczej w Karbiu doszło do licznych szkód górniczych, przez co wyburzono kilka budynków mieszkalnych, zamknięto m.in. restaurację McDonald’s.