Na początku 1964 roku Outlaws nagrali singiel „Keep a Knocking” / „Shake with Me”. Muzyka ta była zupełnie odmienna od poprzedniego „kowbojskiego” dokonania. Oba nagrania były ostre i hałaśliwe, a solo, które zagrał w piosence pt. „Shake with Me” zostało docenione przez jego ówczesnych idoli: Jimiego Hendriksa i Jeffa Becka.
Z powodu braku pieniędzy Blackmore opuścił The Outlaws i zaczął grać z grupą The Wild Boys, akompaniującą wokaliście Heinzowi Burtowi. Nazwisko Blackmore’a zostało uwiecznione na okładce jedynego wydawnictwa tego wykonawcy, A Tribute to Eddie. Współpraca z Burtem trwała pół roku. Blackmore był w tamtym okresie gitarzystą sesyjnym i często musiał wybierać pomiędzy pracą w studio a wyjazdami na koncerty. Cały czas nie mógł zarobić na swe utrzymanie, więc po raz kolejny zmienił zespół.
Na początku 1965 roku grał z Neilem Christianem i zespołem The Crusaders, później na krótko dołączył do The Outlaws, który przekształcił się w Ritchie Blackmore Orchestra. Zespół nagrał singiel z utworami „Getaway” / „Little Brown Jug”. W tym samym składzie, lecz pod nazwą The Lancasters zespół wydał singiel „Satan’s Holiday” / „Earthshaker”.