Kariera Po opuszczeniu marynarki wojennej Carey próbował rozpocząć karierę piosenkarską, aby uniknąć aktorstwa, ale bezskutecznie. Zaczął występować w John Ford Stock Company wraz z ojcem. Często współpracował z reżyserem Johnem Fordem. Zagrał w filmach – Trzej ojcowie chrzestni (1948), Nosiła żółtą wstążkę (1949), Poszukiwacze (1956) i Jesień Czejenów (1964).
Carey pojawił się w wielu westernach. Z reżyserem Howardem Hawksem nakręcił cztery filmy. W pierwszym z nich, Rzeka Czerwona (1948), Carey Jr. i jego ojciec występowali w oddzielnych scenach, a następnie Małpia kuracja (1952) i Mężczyźni wolą blondynki (1953). Wziął udział w Rio Bravo (1959), ale sceny z jego udziałem zostały wycięte. Carey spekulował, że Hawksowi albo nie podobał się strój Careya, albo przerwał scenę, ponieważ Carey zwrócił się do Hawksa jako „Howard” zamiast „Pan Hawks”.
Późniejsze westerny to Shenandoah (1965), Wielki Jake (1971) z Johnem Wayne’em i Niepoprawny Trinity (1971), a w telewizji był znaną twarzą, grając gościnne role w takich serialach jak Strzały w Dodge City, Bonanza i Mannix.