21 marca 1924 r. prezydent Stanisław Wojciechowski powołał Hübnera na stanowisko ministra spraw wewnętrznych w rządzie Władysława Grabskiego. Według premiera nowy minister nie budził negatywnych emocji po żadnej ze stron sceny politycznej. Jako szef MSW podkreślał, że zespolenie administracji w poszczególnych jednostkach terytorialnych pod jednym zwierzchnikiem jest najlepszą gwarancją właściwego skoordynowania zarządzeń administracyjnych oraz umożliwia z jednej strony racjonalizację pracy urzędników. Hübner oprócz prowadzonych prac na reorganizacją ministerstwa, skupił się na Policji Państwowej, która na terenach wschodnich nie potrafiła zapewnić dostatecznego bezpieczeństwa. Dochodziło tam do napadów, np. w nocy z 18 na 19 lipca 1924 r. grupa ok. 20 uzbrojonych osób napadła na miasteczko Wiszniew w powiecie wołożyńskim. Podczas starcia zginął tamtejszy komendant powiatowy PP. Hübner, aby przeciwdziałać dalszym rozbojom, granicę wschodnią zaczął obsadzać Korpusem Ochrony Pogranicza, który w czasie pokoju pod względem ochrony granicy, bezpieczeństwa w pasie granicznym oraz spraw budżetowych podlegał ministrowi spraw wewnętrznych, ale pod względem organizacyjnym, operacyjnym, personalnym i wyszkolenia był kierowany przez ministra spraw wojskowych. Ponadto wprowadził zmiany stanowiskach wojewodów, obsadzając kilku generałów.