W 1837 roku został kaznodzieją w małej wiosce Neuendettelsau, którą swoją pracą zamienił w kwitnącą chrześcijańską kolonię. W latach 1848–1852 rozwijał się w nim zamiar w zerwania z krajowym Kościołem Bawarii i jego relacje z władzami stawały się coraz bardziej napięte. Jego negatywna ocena ówczesnej sytuacji wynikała nie tyle z samych niedostatków życia kościelnego, ile z niezgodności modelu Kościoła z ideałami teologa. Początkowo planował nie reformę, ale nową formację Kościoła. Próbował upowszechnić w powszechnej opinii utożsamienie społeczności świętych z jej widzialną postacią na Ziemi. Wystosował petycję do Synodu Głównego, w którym żądał zakończenia kontroli władz świeckich nad Kościołem, oczyszczenia doktryny z naleciałości i wierności księgom symbolicznym. Chociaż synod próbował spełnić jego postulaty na miarę możliwości, Löhe nie był usatysfakcjonowany i kilka razy był na granicy schizmy, jednak jego miłość dla tradycji Kościoła powstrzymywała go przed realizacją swoich zamiarów. Löhe, jako ortodoksyjny luteranin, był przeciwnikiem unii z ewangelikami reformowanymi, a zwłaszcza wspólnej celebracji Wieczerzy Pańskiej pomimo różnic doktrynalnych. Niektórzy członkowie władz kościelnych planowały suspendować niepokornego duchownego, jednak nie uczyniono z tego obawy, że może to wywołać rozłam w Kościele.