Od 1880 ciężko chory, tym samym nie odegrał większej roli w państwie.
Od 1852 do śmierci był szefem austro-węgierskiego Pułku Huzarów Nr 2.
Małżeństwo i potomstwo Mikołaj Mikołajewicz wbrew swojej woli poślubił swoją kuzynkę Aleksandrę Oldenburg, która po przejściu na prawosławie przyjęła imię Aleksandry Piotrowny (1838-1900). Jej babką ze strony ojca była córka cara Pawła I. Ślub miał miejsce w Petersburgu, 6 lutego 1856. Małżeństwo to nie należało do udanych, ponieważ para znacznie się od siebie różniła. Mikołaj i Aleksandra mieli dwóch synów: wielkiego księcia Mikołaja Mikołajewicza (młodszego) (1856–1929), męża Anastazji – księżniczki czarnogórskiej, wielkiego księcia Piotra Mikołajewicza (1864–1931), męża Milicy – młodszej siostry Anastazji.
Cztery lata po zawarciu małżeństwa, Mikołaj zaczął romansować z Katarzyną Czisłową, tancerką w teatrze Krasnoje Sieło. Mikołaj nie ukrywał tego związku i miał z niego pięcioro dzieci: Olgę Nikołajewną Nikołajewą (1868–1950), żonę księcia Michała Cantacuzene, Włodzimierza Nikołajewicza Nikołajewa (1873–1942), Katarzynę Nikołajewną Nikołajewą (1874–1940), Mikołaja Nikołajewicza Nikołajewa (1875–1902), Galinę Nikołajewną Nikołajewą (1877–1878).