Przez następne trzy lata „New York" był okrętem szkolnym dla podchorążych United States Naval Academy i innych ćwiczących się w swoim fachu oficerów. Odbywał w tym czasie rejsy do Europy, Kanady i na Karaiby, a w połowie 1941 dołączył do patrolów neutralności. W lipcu 1941 eskortował żołnierzy na Islandię, a następnie służył w bazie morskiej w Argentia na Nowej Fundlandii, broniąc tej nowo założonej bazy amerykańskiej. Od momentu wejścia USA do II wojny światowej „New York" osłaniał konwoje atlantyckie kierujące się na Islandię i do Szkocji. W tym czasie często spotykał się z zagrożeniem ze strony niemieckich U-Bootów, ale wszystkie rejsy zakończyły się powodzeniem.

„New York" brał udział w inwazji na Afrykę Północną, zapewniając ogniem swoich najcięższych dział ważne wsparcie artyleryjskie w Asfi 8 listopada 1942. Następnie, zanim wrócił do USA do służby konwojowej, operował w okolicach Casablanki i Fedhala. Eskortował wtedy bardzo potrzebne transporty żołnierzy i zaopatrzenia kierujące się do Północnej Afryki. Następnie podjął ponownie rolę okrętu szkolnego dla artylerzystów mających później służyć na pancernikach i niszczycielach.