Zdobywał stopniowo uznanie na arenie publicznej jako osoba dbająca o spokój i porządek publiczny. W czerwcu 1921 r., mimo że nie był członkiem żadnej z partii rządzących, został kanclerzem Austrii z nadania Austriacką Partię Chrześcijańsko-Społeczną (CS) i jej prawicowych partnerów, stając na czele rządu uformowanego w większości z bezpartyjnych urzędników. Pełniąc wówczas również funkcję ministra spraw zagranicznych doprowadził do podpisania w Lány traktatu granicznego z Czechosłowacją. Mimo iż, jego zdaniem, zapewniał on prawa mniejszości niemieckiej w Czechosłowacji, to spowodowało w styczniu 1922 r. upadek rządu za sprawą sprzeciwu stronnictwa wszechniemieckiego. Schober pozostał jednak kanclerzem, formując nowy rząd, w którym pełnił także funkcję ministra spraw wewnętrznych, który przetrwał jednak tylko kilka miesięcy (do maja 1922 r.).
Powrócił wówczas do pracy w policji, gdzie realizował liczne przedsięwzięcie mające na celu zarazem poprawę jej funkcjonowania, jak i odsunięcie od wpływów lewicowych. W 1923 r. został pierwszym prezydentem powstałego wówczas Interpolu (pozostał na tym stanowisku do śmierci).