Pierwsze dostępne do nabycia nagranie The Velvet Underground, utwór instrumentalny pt. „Loop”, rozdawane z egzemplarzami czasopisma Aspen, było eksperymentem, polegającym na akustycznym sprzężeniu zwrotnym, skomponowanym i przeprowadzonym przez Cale’a. Następnie wziął udział w nagraniu pierwszych dwóch albumów The Velvet Underground: The Velvet Underground and Nico (nagrany w 1966, wydany w 1967) i White Light/White Heat (nagrany w 1967, wydany w 1968). Wystąpił na nich jako altowiolista, gitarzysta basowy i pianista, śpiewając także niektóre partie wokalne. W albumie White Light/White Heat Cale zagrał w utworze „Sister Ray” na organach, a partie wokalne wykonał w eksperymentalnym utworze „Lady Godiva's Operation”, w którym zaśpiewał także Lou Reed, i w długim, napisanym przez Reeda monologu „The Gift”. Cale współtworzył szereg utworów do tych albumów, najbardziej jednak charakterystyczne dla jego wkładu w nie jest elektrycznie wzmacniane buczenie, wykonane na altówce.
Cale, Reed i Morrison tworzyli piosenki i brali udział w nagraniu albumu debiutowego Nico (1967) Chelsea Girl. Jako autor tekstów Cale zadebiutował właśnie na tej płycie, utworami „Winter Song” i „Little Sister”.