W 1918 dołączył do orkiestry Kida Ory, poza tym występował gościnnie w innych zespołach, m.in. Tuxedo Brass Band. Następnie został muzykiem w zespole Fate’a Marable’a. W 1921 zaczął występować w kabarecie Toma Andersona oraz został stałym członkiem zespołu Tuxedo Brass Band.
W 1922 przeprowadził się do Chicago, gdzie został zaproszony przez Joe King Olivera do gry jako drugi kornet w jego zespole Creole Jazz Band w „Lincoln Gardens”. W Chicago dokonał też swoich pierwszych nagrań. W 1924 wyjechał do Nowego Jorku, gdzie grał w big-bandzie Fletchera Hendersona. W następnym roku wrócił do Chicago, gdzie grał w orkiestrach Erskine’a Tate’a i Carrolla Dickersona. W latach 1926–1927 prowadził własne zespoły: Hot Five i Hot Seven. W 1929 występował w rewii „Hot Chocolates” na Broadwayu. W latach 1932–1935 koncertował po Europie.
W 1936 zadebiutował jako aktor rolą w filmie Pennies from Heaven. W trakcie kariery zagrał w ponad 30 filmach, m.in. Hello Dolly.
W 1944 zagrał wielki koncert jazzowy w Metropolitan Opera w Nowym Jorku. Po II wojnie światowej prowadził mniejsze zespoły pod nazwą All Stars. W latach 60. odbył tournée artystyczne, podczas którego odwiedził kilka państw afrykańskich. Występował często w duecie z Ellą Fitzgerald.