Od tego czasu zmuszony był jako opozycjonista do działania w coraz większej konspiracji. Radykalizowały się także jego poglądy: otwarcie określał oficjalnych zwierzchników Kościołów protestanckich jako „niegodnych heretyków” i „wrogów chrześcijaństwa”. Takie poglądy budziły wśród wiernych obawę przed represjami ze strony państwa i coraz więcej osób opowiadało się za formą ograniczonej współpracy z III Rzeszą; doprowadziło to do podziału „Kościoła Wyznającego” na radykalną mniejszość i większość, która wybrała kolaborację.
Od 1935 Niemöller zorganizował wraz z kilkuset innymi pastorami protesty przeciwko wewnętrznej polityce III Rzeszy; w szczególności protestował przeciwko antysemickim i rasistowskim poglądom Alfreda Rosenberga. Spowodowało to natychmiastowe aresztowanie Niemöllera. W lipcu 1937 ponownie go aresztowano i w lutym 1938 skazano na 9 miesięcy więzienia. Ponieważ na poczet kary zaliczono mu pobyt w areszcie śledczym, został zwolniony, ale zaraz za progiem aresztu zatrzymało go Gestapo. Na osobiste polecenie Hitlera przewieziono go do obozu koncentracyjnego Sachsenhausen, gdzie miał zginąć na szubienicy.