Rodzina powiedziała Cooperowi, że jego ojciec był Żydem. Obaj nigdy się nie spotkali po tym, jak opuścił rodzinę.

Po raz pierwszy pojawił się w filmach jako statysta ze swoją babcią, która zabierała go na przesłuchania, mając nadzieję, że pomoże jej to w znalezieniu dodatkowej pracy. W wieku trzech lat wziął udział w komediach Lloyda Hamiltona pod pseudonimem „Leonard”. Mając 7 lat znalazł się niewymieniony w czołówce w obsadzie dwóch komedii muzycznych Davida Butlera – Movietone Follies (Fox Movietone Follies of 1929, 1929) jako mały chłopiec w numerze „To ty, kochanie” („That’s You, Baby”) ze Stepinem Fetchitem i Sunny Side Up (1929) w roli Jerry’ego McGinnisa z Janet Gaynor. Ponadto wystąpił w serii filmów krótkometrażowych. David Butler, polecił Coopera reżyserowi Leo McCareyowi, który zaangażował go do serialu komediowego Nasz gang (Our Gang, 1929–1931), wyprodukowanego przez Hala Roacha. Następnie podpisał trzyletni kontrakt i dołączył do serii Rękawice bokserskie (Boxing Gloves, 1929) jako pierwszy wściekły widz i reporter podczas walki. Zanim nastała era Shirley Temple, był w pierwszej połowie lat 30. najsłynniejszym dzieckiem Hollywood.