En Motown, donde realizaría una brillante carrera, Gaye comenzó acompañando a la batería, entre otros grupos, a
Smokey Robinson & the Miracles, y haciendo acompañamientos vocales y tocando el piano en grabaciones de otros artistas. En agosto de 1961, debutó como solista con
The Soulful Moods Of Marvin Gaye sin demasiado éxito. Desviándose del camino de las baladas convencionales compuso con
William Stevenson y
George Gordy,
"That Stubborn Kinda' Fellow" (
1963), del que se publicó el sencillo que da título al álbum,
"Hitch Hike" y
"Pride and Joy", sus primeros éxitos en Motown, a los que seguiría el álbum
"How Sweet It Is" (To Be Loved By You) (
1964) y los sencillos
"I'll Be Doggone" y
"Ain't That Peculiar" (
1965). En
1964 inició sus duetos con
Mary Wells, la estrella femenina de la Motown, con quien grabó, ese mismo año,
Together, y un par de canciones que tuvieron alguna popularidad. Posteriormente grabó con
Kim Weston,
"Take Two" (
1967), pero sus mejores duetos fueron sin duda con
Tammi Terrell, con la que consiguió recrear a los ojos del público el romance perfecto hasta el punto de que circularon insistentes rumores acerca de las relaciones entre ambos que fueron, eso sí, grandes amigos. Con ella obtuvo grandes éxitos como
"Ain't No Mountain High Enough" y
"Your Precious Love" en
1967 y
"Ain't Nothing Like the Real Thing" y
"You're All I Need to Get By" en
1968. La fantasía terminó bruscamente después de que el verano de 1967, Tammi Terrel se desmayara en el escenario en los brazos de Gaye por un tumor cerebral no diagnosticado que acabaría con su vida tres años más tarde; «siento que, de alguna manera, he muerto con ella» diría Gaye tiempo después.