15 lipca 2014 Parlament Europejski wybrał go na ten urząd.
22 października 2014 Parlament Europejski przy 423 głosach za, 209 przeciw i 67 wstrzymujących się zaaprobował zaproponowany przez Jean-Claude’a Junckera skład Komisji Europejskiej. Rozpoczął urzędowanie 1 listopada 2014. Wkrótce po objęciu funkcji media obiegła tzw. afera LuxLeaks, związana z systemem obchodzenia podatków w Luksemburgu w okresie premierostwa Jeana-Claudea Junckera. Członkowie eurosceptycznej frakcji Europa Wolności i Demokracji Bezpośredniej złożyli wniosek o wotum nieufności wobec przewodniczącego KE, który został zdecydowaną większością głosów odrzucony. Uwagę medialną wywołało także jego zachowanie w trakcie spotkania w Rydze z 22 maja 2015. Wówczas to doszło do incydentów m.in. z udziałem Aleksisa Tsiprasa, któremu przewodniczący KE przymierzał swój krawat, Karla-Heinza Lambertza, którego klepał po brzuchu i zwracał uwagę na jego nadwagę, Charles’a Michela, którego całował w łysinę, a także Viktora Orbána, którego określił mianem dyktatora.