Tymczasem na wieść o planowanym „wysiedleniu” ukraińscy sąsiedzi natychmiast przystąpili do szabrowania żydowskich mieszkań i domów, często nie czekając nawet, aż opuszczą je prawowici właściciele.
Zeznania ocalałych wskazują, że zgromadzonych w koszarach Żydów zaczęto zabierać na egzekucję około 19–20 października. Masakra trwała kilka dni. Na miejsce kaźni Niemcy wybrali okolice wsi Ahrobaza i znajdującego się tam kołchozu im. Maksima Gorkiego. Miejsce to znajdowało się około 7–10 kilometrów na zachód od Mariupola. Żydów zabierano z koszar grupami po 500 osób i doprowadzano pieszo do miejsca egzekucji. W trakcie przemarszu byli bici pejczami i pałkami przez konwojentów. Starców i małe dzieci przewożono do Ahrobazy samochodami ciężarowymi. Ofiary wprowadzano najpierw do znajdującej się tam stodoły, gdzie musiały rozebrać się do bielizny. Następnie zabierano je nad pobliski rów przeciwpancerny, gdzie były rozstrzeliwane ogniem broni maszynowej. Niejednokrotnie zdarzało się, że rannych oraz niemowlęta i małe dzieci zakopywano żywcem w zbiorowych mogiłach.