Do jego największych przebojów należały: nagrany w 1946 utwór „To Each His Own”, wydany w 1950 „There’s No Tomorrow” (oparty na melodii włoskiej ballady „’O sole mio”) oraz zabawna piosenka z tego samego roku – „I Said My Pajamas (and Put on My Pray’rs)”.
Po ataku na Pearl Harbor w grudniu 1941 Martin odbył podwójną służbę wojskową: najpierw w United States Navy, a następnie w United States Army Air Forces. Po ukończeniu szkolenia podstawowego w armii występował początkowo jako wokalista w orkiestrze Army Air Forces Training Command pod dyrekcją Glenna Millera, lecz później brał udział w rzeczywistych działaniach wojennych i został odznaczony Brązową Gwiazdą.
Po zakończeniu II wojny światowej regularnie występował w radiowej audycji Waltera Winchella Lucky Strike Hour, a na początku lat 50. trzykrotnie poprowadził program The Colgate Comedy Hour – format ten, podobnie jak późniejsze Saturday Night Live, zakładał zmianę gospodarza w każdym odcinku. W latach 1954–1956 prowadził na antenie NBC własny, piętnastominutowy program The Tony Martin Show; w jego trakcie śpiewał piosenkę, krótko rozmawiał z zaproszoną gwiazdą, a następnie zachęcał widzów do pozostania przy odbiornikach na wieczorny serwis informacyjny w czasie największej oglądalności.