16 lutego 1925 złożył do Biura Politycznego KC RKP(b) wniosek o odwołanie z funkcji szefa Głównego Zarządu Przemysłu Zbrojeniowego.

Pod koniec 1925 został wysłany na trzymiesięczną zagraniczną podróż studyjną, celem zapoznania się z przemysłem Niemiec, Francji i Wielkiej Brytanii. Po powrocie został przeniesiony z Moskwy na Północny Kaukaz, gdzie w latach 1926–1929 był przewodniczącym regionalnego komitetu wykonawczego Północnego Kaukazu. W 1927 uzyskał zgodę na rozpoczęcie prac budowy kanału Wołga-Don. Był jednym z inicjatorów budowy zakładów maszyn rolniczych Rostsielmasz (Ростсельмаш) w Rostowie nad Donem. W latach 1927–1930 członek Centralnej Komisji Rewizyjnej WKP(b).

W latach 1930–1934 kierował spółką handlową Amtorg w Nowym Jorku, jedynym ówcześnie oficjalnym przedstawicielstwem ZSRR w USA. Działania Bogdanowa przyczyniły się do nawiązania w 1933 stosunków dyplomatycznych między ZSRR a Stanami Zjednoczonymi. Po powrocie do kraju, powierzono mu pełnienie funkcji pierwszego zastępcy komisarza ludowego przemysłu komunalnego RSFSR (1935–1937).