Początek kariery Adamsa, jako profesjonalnego muzyka, to rok 1953, gdy powraca do domu z wojny w Korei. Przez trzy lata (1953-1956) występuje z Yusefem Lateefem, Kennym Burrellem, Donaldem Byrdem oraz innymi. W początkach 1956 roku opuszcza Detroit udając się w krótkie tournée wraz z orkiestrą Stana Kentona. W tym czasie otrzymuje przezwisko „Nóż” z powodu swoistego sposobu grania, który będzie wizytówką Peppera Adamsa aż do końca. W tym samym roku na stałe zamieszkuje w Nowym Jorku. Rok 1957 przynosi nagrania takie jak choćby album Dakar (nagrany wraz z Johnem Coltrane’em, czy The Cooker, w którego nagraniu współpracował z Lee Morganem). W następnym roku współpracuje z Bennym Goodmanem. W tym samym okresie Pepper Adams nagrywa razem z Charlesem Mingusem, jeden z najdoskonalszych albumów Mingusa, Blues & Roots (od tego czasu Pepper Adams sporadycznie nagrywa jeszcze kilka razy razem z Mingusem aż do jego śmierci w 1979 roku). Lata 1965–1978, to czas, kiedy Adams staje się znaczącym członkiem zespołu prowadzonego przez Thada Jonesa oraz Mela LewisaAll Music.. W 1980 roku Pepper Adams nagrywa album The Master, który uważany jest przez saksofonistów barytonowych za jedno z najdonioślejszych nagrań jazzowych w historii tego instrumentu.