Kariera Przygodę z aktorstwem rozpoczął poprzez swoją siostrę Kristin Harmon, gdy dostał pierwszą telewizyjną rolę Marka Johnsona w jednym z odcinków sitcomu Dziewczyny Ozziego (Ozzie’s Girls, 1973) – pt. Kandydat (The Candidate) z Ozziem Nelsonem. Występował gościnnie na srebrnym ekranie w serialach NBC: Nagły wypadek! (Emergency!, 1975) jako oficer Dave Gordon, Adam-12 (1975) jako policjant Gus Corbin, Sierżant Anderson (Police Woman, 1975–1976) i Centennial (1978–1979). Grał policjanta Mike’a Breena z labradorem retrieverem w serialu kryminalnym CBS Sam (1977–1978) i zastępcę Dwayne’a „Thiba” Thibideaux z Misji Służby Ratunkowej Departamentu Szeryfa Hrabstwa Los Angeles w serialu policyjnym ABC 240-Robert (1979 z Joanną Cassidy. Drugoplanowa rola Roberta Dunlapa, weterana rozmawiającego z pierwszą damą w telewizyjnym dramacie biograficznym ABC Eleanor i Franklin w Białym Domu (Eleanor and Franklin: The White House Years, 1977) przyniosła mu nominację do nagrody Emmy.
thumb|Mark Harmon (2005)