Liczbę tych, którzy pozostali w zajętym przez Niemców mieście, szacuje na około 20 tys., przy czym zdecydowaną większość stanowić miały kobiety, dzieci oraz osoby starsze.
Utworzenie getta W połowie listopada do Charkowa przybyło Sonderkommando 4a, którym dowodził SS-Standartenführer Paul Blobel. Był to pododdział Einsatzgruppe C – specjalnej grupy operacyjnej SD i policji bezpieczeństwa, której zadaniem była eksterminacja Żydów na obszarze Ukrainy. Funkcjonariusze SK 4a rychło rozpoczęli przygotowania do utworzenia getta, co z kolei miało być wstępem do całkowitej eksterminacji charkowskich Żydów.
Działania SK 4a były koordynowane z dowództwem 6 Armii i wojskową komendanturą miasta. Ta ostatnia 14 grudnia wydała zarządzenie, które nakazywało wszystkim przebywającym w mieście Żydom, by w terminie do 16 grudnia przenieśli się na teren osiedla baraków robotniczych. Należało ono do miejscowej fabryki urządzeń mechanicznych oraz fabryki traktorów i było położone w odległości 12 km od centrum miasta, na terenie 10. dzielnicy. Zapowiedziano, że niezastosowanie się do rozkazu przesiedlenia będzie karane śmiercią. W myśl niemieckich zarządzeń do getta miały się przenieść także osoby, które miały co najmniej jednego żydowskiego rodzica, oraz nieżydowscy małżonkowie ze związków mieszanych.