Zanim dołączył do The Shadows, grał jeszcze w kilku innych grupach, np. The Vipers. Do The Shadows dołączył w 1958 roku, kiedy występowali jeszcze jako The Drifters. Jet Harris był twórcą nazwy „The Shadows” i to za jego namową zespół zmienił nazwę. Ponoć wszyscy siedzieli w knajpie i myśleli, jaka nazwa będzie najodpowiedniejsza, Harris powiedział: „what about The Shadows?”. Kiedy w roku 1959 jego Framus uległ zniszczeniu, Jet zmienił gitarę na nowy Fender Precision Bass, jedną z pierwszych tego rodzaju, która trafiła do Anglii ze Stanów. Harris także śpiewał np. w „Feeling Fine”, czy w „Do you wanna dance?”. Podczas gry w The Shadows odnotowano jego występy w piosenkach m.in.: „Nivram” – pierwsze basowe solo/improwizacja na świecie, „FBI”, „Apache”, „The Savage”, „Man of Mystery”, „Sleepwalk” i inne.