Do zadań GFP należało przeciwdziałanie obcemu szpiegostwu w niemieckich siłach zbrojnych, zapobieganie sabotażom, wrogiej propagandzie, ochrona kontrwywiadowcza sztabów i wyższej kadry oficerskiej, kontrola wojskowej korespondencji oraz łączności pocztowej, telegraficznej i telefonicznej, wykonywanie wszelkich działań związanych z bezpieczeństwem wojsk na okupowanych terenach (ochrona linii komunikacyjnych i instalacji militarnych, zwalczanie partyzantki). Funkcjonariusze prowadzili przesłuchania schwytanych członków ruchu oporu, partyzantów i obcych szpiegów, a także jeńców wojennych, nierzadko stosując tortury. Ochraniali wysokich oficerów sił zbrojnych. Mieli nieograniczony w zasadzie dostęp do wszelkich obiektów militarnych i zamkniętych stref wojskowych. Wykonując obowiązki służbowe mieli prawo wstępu do wszystkich obiektów państwowych.
Na czele GFP stał Heerespolizeichef, którego stanowisko umiejscowione było w Oberkommando des Heeres (OKH). Funkcję tę pełnił SS-Oberführer i pułkownik policji Wilhelm Krichbaum. Podlegali mu Feldpolizeidirektorzy, który dowodzili Grupami GFP, działającymi przy sztabach armii, armiach i polowych komendanturach. Taktycznie podlegały one dywizjom bezpieczeństwa.