Od 1 kwietnia 1941 na inspektora formacji w głównym wydziale administracji rządu GG powołany został inspektor dr Hermann Hammerle, podlegający generalnemu gubernatorowi przez Wydział Spraw Wewnętrznych i sekretarza stanu„Okupacja i ruch oporu w Dzienniku Hansa Franka 1939–1945” KIW, Warszawa 1972, Tom I, s. 258..
Kadrę Sonderdienstu stanowili głównie volksdeutsche oraz członkowie rozwiązanego Volksdeutscher Selbstschutz. Organizacja liczyła około 7 tysięcy ludzi. Hammerle dnia 18 października 1940 roku sygnalizował Frankowi brak 650 ludzi do wypełnienia stanów, w wyniku czego zarządzono przymusową rekrutację wśród mniejszości niemieckiej, którą przeprowadzał Odilo Globocnik.
Sonderdienst składał się w sumie z 7 batalionów, w tym 5 tzw. administracyjnych, batalionu bezpieczeństwa oraz rezerwowego. Dwa ostatnie umiejscowione były w Krakowie. Natomiast bataliony administracyjne były dostosowane do podziału administracyjnego GG, posiadając oznaczenia literowe (w dystrykcie lubelskim – batalion E). Uwzględniając strukturę terytorialną przydzielano je poszczególnym dystryktom. Na terenie dystryktu batalion administracyjny dzielił się na plutony, przydzielone do każdego powiatu, i pozostające do dyspozycji starosty. Każdy starosta miał do swojej dyspozycji od 50 do 100 członków Sonderdienstu.