W 1932 rozpoczął wstępne eksperymenty w utworzonym w tokijskim szpitalu Laboratorium Badań Profilaktycznych. Kierujący nią Shirō Ishii prosił dowództwo o przeniesienie na teren marionetkowego państwa Mandżukuo. Prośba ta była spowodowana potrzebą wykonywania doświadczeń na ludziach, w opinii Ishiego nadawali się do tego mieszkańcy podbitej Mandżurii. thumb|Tablica upamiętniająca ofiary Jednostki 731|240x240px W 1935 została sformowana Jednostka 731, zajmująca się bronią biologiczną pod przykryciem jednostki uzdatniającej wodę. Generał Ishii nadzorował budowę dużego kompleksu dla jednostki – ponad 150 budynków na 6 km² niedaleko miasta Harbin w Mandżukuo.
W 1942 Ishii rozpoczął testy z bronią biologiczną i konwencjonalną na chińskich żołnierzach i cywilach. Dziesiątki tysięcy ofiar zmarło na dżumę, cholerę, z powodu wąglika i innych chorób. Jego oddział przeprowadzał również eksperymenty paramedyczne, takie jak wiwisekcje, aborcje oraz wywoływanie udarów i zawałów serca.
Za dostarczanie do jednostki obiektów do badań (w dużej mierze wywodzących się z szeregów chińskich partyzantów i osób aresztowanych za działalność przeciwko okupantowi) odpowiedzialni byli funkcjonariusze żandarmerii wojskowej – Kempeitai.