Dowództwo wojskowe w składzie: Generalmajor Kurt Eberhard, Höherer SS- und Polizeiführer, SS-Obergruppenführer Friedrich Jeckeln, Dowódca oddziałów Einsatzgruppe C, SS-Brigadeführer Dr Otto Rasch i Dowódca oddziałów Einsatzgruppe 4a, SS-Standartenführer Paul Blobel wyselekcjonowało siły wojskowe do przeprowadzenia akcji (tworząc złożony z różnych jednostek niemieckich oddział o nazwie Sonderkommando 4a) oraz zlokalizowało akcję zagłady na terenie Babiego Jaru. Metoda egzekucji odpowiadała przyjętym wytycznym dla zagłady Żydów na terenie ZSRR, przez działalność tzw. Einsatzgruppen.
thumb|left|Rozkaz niemieckiego dowództwa W dniu Jom Kipur, 29 września 1941 r., kazano zebrać się wszystkim Żydom we wskazanym miejscu z pieniędzmi, kosztownościami oraz ciepłymi ubraniami, co sugerowało daleką podróż. Z miejsca zbiórki grupami po sto osób Żydzi w obstawie SS i Ukraińskiej Policji Pomocniczej wymaszerowywali w kierunku jaru. Na miejscu w grupach 10-osobowych podchodzili do wąwozu i zostawali zabici strzałami z broni automatycznej. Jak zeznawał później Fritz Höfer, rozebranych Żydów prowadzono do wąwozu o dużych wymiarach. Gdy byli już na brzegu wąwozu, kładziono ich na ziemi lub już zabitych Żydach. Kiedy człowiek już leżał, przychodził strzelec i zabijał go strzałem w tył głowy.