W 1882 roku uczestniczył w organizacji rosyjskiej misji prawosławnej w Jerozolimie i powołaniu do życia towarzystwa opiekującego się cerkwiami w Palestynie. W tym samym roku jego brat, car Aleksander III, mianował go dowódcą 1 Batalionu Pułku Prieobrażeńskiego. W 1891 roku został generał-gubernatorem MoskwyCh. Warwick, op. cit., s. 97–99..
Generał gubernator Moskwy Reprezentował poglądy skrajnie konserwatywne. Wywierał znaczny wpływ na politykę cara Mikołaja II.
18 maja 1896 roku na Polu Chodyńskim, w czasie festynu ludowego towarzyszącego uroczystościom koronacji Mikołaja II, doszło do wybuchu paniki, w wyniku której zginęło ponad tysiąc osób. Za masakrę w dużej mierze odpowiedzialny był wielki książę Sergiusz, który nie zadbał o odpowiednie zabezpieczenie masowej uroczystości. Po tym wydarzeniu Sergiusz zyskał przydomek „księcia chodyńskiego”.