Là, il fait des sessions de batteur et accompagne les plus grands, comme
Stevie Wonder ou Smokey Robinson. Marvin Gaye épouse en 1961 une des soeurs de Berry Gordy et signe son premier contrat. Son premier hit single, « That Stubborn Kinda Fellow », accompagné par Martha & The Vandellas en 62, est un succès. A partir de 1965, Marvin Gaye, comme Stevie Wonder, commence à faire connaître son style personnel au sein de l'usine R&B. Les titres « I'll Be Doggone » et « Ain't That Peculiar » dévoilent un nouveau son à cette époque. Symbole du séducteur nonchalant, le chanteur sort ensuite toute une série de duos pour Motown, avec Mary Wells, Kim Weston et Tammi Terrell. En 1968, une petite bombe solo éclate dans les radios avec « I Heard It Through The Grapevine », dont le retentissement populaire fait de Marvin Gaye l'un des hommes forts de la Motown. Il enchaîne un temps tube sur tube mais la mort de son ex-partenaire Tammi Terrell secoue le chanteur. Il disparaît pendant un an et revient avec un album révolutionnaire, « What's Going On ? ».