W wyniku dymisji Dmitrija Dmitrijewicza Swierbiejewa został roku wyznaczony gubernatorem kurlandzkim. Urząd ten objął jednak dopiero roku, a do tego czasu zastępował go wicegubenrator Izmaił Władimirowicz Kostorowiec. Kniaziew przybył do Kurlandii w krytycznym okresie rewolucji 1905 roku, zdecydowana większość kurlandzkich miejscowości opanowana była przez rewolucjonistów. Pod koniec grudnia podpisał prośbę o zwiększenie kontyngentu wojskowego w guberni, a za sprawą działań ekspedycji karnych, już w styczniu raportował o przywróceniu kontroli nad wszystkimi miastami.
Wśród kurlandzkich Niemców miał opinię dobrodusznego i naiwnego, łatwo miał się dostosowywać do zdania miejscowego rycerstwa. Tak na przykład w związku z akcją sprowadzania do Kurlandii niemieckich kolonistów, którą miejscowe ziemiaństwo prowadziło w celu wzmocnienia żywiołu niemieckiego przeciw łotewskiemu nacjonalizmowi, gubernator nie tylko nie przeciwdziałał, ale nawet usprawiedliwiał te działania brakiem rąk do pracy na wsi.
Od roku generał-gubernator irkucki, na miejsce przybył . Ze względów zdrowotnych zwolniony w lutym 1916 roku. W 1917 roku został członkiem Rady Państwa Imperium Rosyjskiego.