W 1932 powstał prototyp MP II z zamkiem półswobodnym. Został on oceniony jako konstrukcja lepsza niż MP I, ale armia uznała, że nowy pistolet musi mieć zamek ryglowany. Zastrzeżenia budził także mechanizm uderzeniowy z kurkiem zewnętrznym. Nowe wymagania wojska żądały pistoletu z kurkiem lub bijnikiem wewnętrznym.
W 1934 powstał prototyp MP III. Była to konstrukcja zbudowana od podstaw, na żądanie wojska wyposażona w lufę zewnętrzną, zamek ryglowany ryglem wahliwym i kurek wewnętrzny. Ponieważ testy wykazały, że zamek obejmujący lufę tylko przy pomocy dwóch niepołączonych ramion ma niską trwałość, w następnym prototypie oznaczonym jako MP IV oba ramiona połączono mostkiem. Wyniki prototypu MP IV były na tyle dobre, że Fritz Walther zdecydował o wyprodukowaniu krótkiej serii informacyjnej tego pistoletu. Wyprodukowane egzemplarze oznaczono jako AP (Armeepistole). Poszczególne egzemplarze pistoletów AP różnią się długością lufy i konstrukcją zamka.