Gol dał nastolatkowi przepustkę do pierwszego zespołu Interu i już dwa lata później występował w nim regularnie, będąc jednym z najważniejszych ogniw słynnej ekipy Helenio Herrery.
Mazzola zdobył dla Interu 116 bramek w 417 ligowych spotkaniach, w Pucharze Włoch zaliczył 80 występów strzelając 24 gole, a na europejskich boiskach rozegrał 67 spotkań trafiając w nich 20 razy do siatki bramki rywali. W sumie w 565 spotkaniach zdobył 160 goli. Wraz z Interem Mazzola czterokrotnie zdobył Scudetto (1963, 1965, 1966, 1971), dwa Puchary Mistrzów (1964, 1965) i dwa Puchary Interkontynentalne (1964, 1965), a w 1965 roku został także królem strzelców Serie A.
W reprezentacji Włoch zagrał 70 razy i zdobył 22 bramki. Pierwszy mecz w koszulce Azzurrich rozegrał przeciwko Brazylii 12 maja 1963 – miał wówczas zaledwie 20 lat. Wziął udział w trzech finałowych turniejach MŚ (1966, 1970 i 1974), w 1970 zdobywając tytuł wicemistrzowski. Mazzola jest także mistrzem Europy z 1968.
Mazzola był dyrektorem sportowym Interu w latach 1995–2003. Był komentatorem stacji Rai Sport, dla której relacjonował m.in.