Podczas jednej z takich walk w Cincinnati został razem ze swym rywalem aresztowany, w niektórych stanach walki o pieniądze były zakazane.
Droga na szczyt Wielką sławą okrył się 16 maja 1881 roku w Yonkers, kiedy w ośmiu rundach (16 minut) pokonał dużo silniejszego fizycznie Johna Flooda. Ta walka z obawy przed policją odbyła się na zacumowanej barce. 7 lutego 1882 roku w Mississippi City zdobył tytuł mistrza Ameryki, pokonując w 9 rundach (10:30 min.) aktualnego czempiona Paddy'ego Ryana. Od tego momentu Sullivan stał się bożyszczem tłumów, pisano o nim artykuły i książki, opowiadano mnóstwo anegdot, często mocno przesadzonych. Odbywał liczne tournée po Ameryce, Europie i toczył wiele walk pokazowych.
Walki z Mitchellem Najgroźniejszym jego rywalem w tym czasie był brytyjski czempion Charley Mitchell, zawodnik o dużo skromniejszych warunkach fizycznych, ale mocno bijący. Pierwszy raz spotkali się na ringu 14 maja 1883 roku w Nowym Jorku. Walkę po trzech rundach przerwała policja, a mimo że już w pierwszej rundzie Sullivan był na deskach, to jemu przyznano zwycięstwo. Następny ich pojedynek został zakontraktowany na 30 maja 1884 roku, ale Sullivan, który mocno już wtedy nadużywał whisky nie wyszedł na ring - był po prostu pijany. Jako ulubieńcowi Ameryki uszło mu to na sucho.