Ilja Garkawy wstąpił do Armii Czerwonej krótko po jej utworzeniu. Był pomocnikiem kierownika gubernialnego wojenkomatu w Woroneżu (sierpień-październik 1918 r.), następnie szefem sztabu 45 Dywizji Strzeleckiej od czerwca 1919 r. do sierpnia 1920 r. Między sierpniem 1920 r. a kwietniem 1921 r. tymczasowo dowodził 45 Dywizją Strzelecką.
Po zakończeniu wojny domowej w Rosji był od czerwca do grudnia 1921 r. szefem sztabu 3 Kazańskiej Dywizji Strzeleckiej. Od grudnia 1921 do marca 1922 był p.o. komendanta garnizonu kijowskiego, następnie od marca do maja 1922 r. pomocnikiem dowódcy Kijowskiego Okręgu Wojskowego i od maja 1922 r. do czerwca 1924 d. ponownie dowódcą 45 Dywizji Strzeleckiej. W tym czasie (w 1923 r.) ukończył wyższe kursy przy Akademii Wojskowej w Moskwie.
Od czerwca 1924 r. do grudnia 1927 r. był dowódcą 8 Korpusu Strzeleckiego, następnie do maja 1930 r. kierował Zarządem Dowódczym Zarządu Głównego Armii Czerwonej. W 1928 r. odznaczony Orderem Czerwonego Sztandaru. Od maja 1930 r. do lipca roku następnego dowodził 14 Korpusem Strzeleckim. W lipcu 1931 r. mianowano go pomocnikiem dowódcy Leningradzkiego Okręgu Wojskowego.
W 1935 r. został dowódcą nowo utworzonego Uralskiego Okręgu Wojskowego.