Zostało zniszczone w 70 procentach, a dziesiątki tysięcy mieszkańców zabitych.
W połowie grudnia 1941 roku na terenie osiedla baraków robotniczych, które należało do miejscowej fabryki urządzeń mechanicznych oraz fabryki traktorów, Niemcy zorganizowali getto dla ludności żydowskiej. Istniało ono tylko przez kilka tygodni, gdyż już na początku stycznia wszyscy jego mieszkańcy zostali rozstrzelani w Drobyckim Jarze. Według najbardziej ostrożnych szacunków w czasie niemieckiej okupacji ofiarą Zagłady padło co najmniej 12 tys. Żydów z Charkowa.
Z 700 000 mieszkańców Charkowa przed wybuchem II wojny światowej 120 000 stało się przymusowymi robotnikami w Niemczech, 30 000 zostało straconych, a 80 000 umarło z głodu.
Po 1945 roku thumb|Charków w 1950 roku, ulica Trinklera W powojennym Charkowie wiele domów i fabryk zostało odbudowanych. Miasto planowano odbudować w stylu socrealistycznym. W 1954 roku zostało wybudowane lotnisko. Po wojnie Charków był trzecim ośrodkiem naukowym i przemysłowym w ZSRR (po Moskwie i Leningradzie). W roku 1975 zostało otwarte metro.
W niepodległej Ukrainie thumb|upright|Fontanna Dzerkalnyj strumiń Po rozpadzie Związku Radzieckiego miasto znalazło się na terytorium Ukrainy.