W londyńskim klubie zadebiutował 13 sierpnia 2006 w przegranym 1:2 meczu o Tarczę Wspólnoty z Liverpoolem, zmieniając w drugiej połowie Paulo Ferreirę. Po raz pierwszy w Premier League zagrał 20 sierpnia w spotkaniu z Manchesterem City, natomiast pierwszego gola strzelił 6 stycznia 2007 w pojedynku pucharu Anglii z Macclesfield Town. Wraz z Chelsea został mistrzem Anglii (2010), czterokrotnie wywalczył puchar kraju (2007, 2009, 2010, 2012), raz zdobył Puchar Ligi Angielskiej (2007) oraz sięgnął po Tarczę Wspólnoty (2009). Ponadto w sezonie 2007/2008 dotarł z londyńskim zespołem do finału Ligi Mistrzów – w nim jednak nie wystąpił. Cztery lata później (2012) wraz z Chelsea wygrał rozgrywki Ligi Mistrzów – w finałowym meczu z Bayernem Monachium zagrał w podstawowym składzie. 21 września 2013 w wygranym przez Chelsea meczu ligowym z drużyną Fulham Londyn zdobył swoją pierwszą ligową bramkę w barwach "The Blues". Oficjalnie zmienił nazwisko z John Obi Mikel na Mikel John Obi.
6 stycznia 2017 został ogłoszony nowym piłkarzem chińskiego klubu Tianjin Teda. Następnie był zawodnikiem klubów: Middlesbrough F.C.