Poszczególne Grupy liczyły w początkowym okresie wojny po 50 osób: 1 funkcjonariusz GFP w stopniu co najmniej majora, 32 funkcjonariuszy w stopniach podporucznika porucznika i kapitana oraz 17 osób personelu pomocniczego (częściowo cywilnych policjantów). Po wybuchu wojny z ZSRR liczebność Grup zwiększyła się do 95 osób. Wszystkie Grupy były całkowicie zmotoryzowane. Każda Grupa dysponowała 25 lekkimi samochodami osobowymi, 1 ciężarówką, 1 autobusem i 3 motocyklami. Czasami pojedynczy funkcjonariusze GFP byli przydzielani do oddziałów żandarmerii polowej w celu asystowania przy akcjach antypartyzanckich. W miarę rozwoju ruchu partyzanckiego na tyłach frontu wschodniego przy Grupach GFP powstawały grupy agentów i nieduże oddziały wojskowe, złożone z miejscowych ochotników i b. czerwonoarmistów, dla przeprowadzania ekspedycji karnych przeciwko wsiom i miasteczkom wspierającym partyzantkę, prowadzenia obław na partyzantów i ludność cywilną oraz konwojowania schwytanych. Przy sztabach korpusów armijnych, dywizji i niektórych komendanturach miejskich działały natomiast Komisariaty GFP. W skład jednej Grupy GFP wchodziło od 2 do 5 komisariatów. Najmniejszą jednostką organizacyjną były wewnętrzne komanda.