W 1914 wraz z młodszym bratem Mariano przeprowadzili się do Los Angeles, gdzie Ramonowi szybko udało się znaleźć powiązane z filmem zajęcia, m.in. był statystą. Jego początki w filmie nie są do końca znane, gdyż wiele filmów niemych, których Ramon stał się z czasem gwiazdorem, nie przetrwało, dlatego za jego oficjalny debiut uznaje się rolę w filmie The Little American (1917), wyreżyserowanym przez Cecila B. DeMille’a. Po tym występie, jeszcze pod swoim prawdziwym nazwiskiem, kontynuował karierę, statystując w filmach Paramountu.
Jego wielki moment nadszedł wraz z zagraniem głównej roli w filmie Scaramouche (1923). Niespełna 24-letni Novarro wystąpił w nim u boku Lewisa Stone’a i pięknej Alice Terry, prywatnie żony reżysera Reksa Ingrama. Zaprzyjaźnił się z państwem Ingram, a Rex doradził mu, by zmienił swój pseudonim artystyczny na łatwiejszy do zapamiętania dla Amerykanów. Ingram promował go jako konkurencję dla Rudolpha Valentino – Ramón był prawdziwym latynosem. Mimo rywalizacji o tytuł najbardziej uwielbianego kochanka ekranu, prywatnie Novarro i Valentino byli przyjaciółmi.
thumb|left|250px|Ramón Novarro i Lupe Velez w kadrze z filmu Laughing Boy z 1934.