Ostatecznie na miejsce masakry wybrano jednak sosnowy las w pobliżu stacji kolejowej Rumbula; położony w odległości ok. 10 kilometrów od getta w Rydze – na niewielkim wzniesieniu leżącym między linią kolejową Ryga–Dyneburg a drogą prowadzącą do Salaspils. Za wyborem Rumbuli przemawiało nie tylko dogodne położenie, umożliwiające doprowadzenie ofiar pieszo na miejsce kaźni, lecz również występujący tam piaszczysty grunt – ułatwiający kopanie masowych mogił.
21 listopada 1941 do lasu pod Rumbulą przywieziono ze Stalagu 350 w Salaspils blisko 300 radzieckich jeńców wojennych. Pod nadzorem SS-Untersturmführera Ernsta Hemickera i jego ludzi wykopali oni sześć masowych grobów. Każda z mogił była długa na 10 metrów i głęboka na 2,5 – 3 metry (z jednej strony każdego dołu wybudowano także konstrukcję pozwalającą na wychodzenie). Groby miały docelowo pomieścić ok. 25 tys. zwłok. Jeńcy zakończyli pracę około 23 listopada.