Grał również na perkusji na wczesnych albumach młodego Steviego Wondera.
W 1964 roku Gaye wydał, wspólnie z piosenkarką Marry Wells, album Together, który zapewnił mu wówczas miejsce najbardziej wpływowej postaci Motown. Jego single zaśpiewane w duecie z Wells, „Once Upon a Time” i „What’s the Matter with You Baby”, uplasowały się, odpowiednio, na miejscach 3. i 2. listy przebojów R&B „Billboardu”. Jego kolejne single, wydane rok później (1965) „Ain’t That Peculiar” (Hot 100 #8, R&B #1), „I’ll Be Doggone” (Hot 100 #8, R&B #1) i „How Sweet It Is (To Be Loved by You)” (Hot 100 #6, R&B #3). W latach 60. Marvin zasłynął jako wykonawca duetowy z wielkimi divami wytwórni Motown – Kim Weston, Tammi Terrell, oraz Dianą Ross.
thumb|Marvin Gaye (1966)
W 1968 roku wytwórnia Motown wydała kolejny solowy album Gaye’a, I Heard It Through the Grapevine, który stał się przebojem. Na płycie znalazła się tytułowa piosenka wydana na singlu, który dotarł do pierwszych miejsc na głównych listach przebojów w Stanach Zjednoczonych (Hot 100) i Wielkiej Brytanii (Official Singles Chart Top 100). Utwór „I Heard It Through the Grapevine” był pisany początkowo z przeznaczeniem dla grupy Gladys Knight & the Pips, jednak wersja Gaye’a została wydana wcześniej i osiągnęła większy rozgłos. Do końca lat 60.