W grudniu 2003 nowy premier, Paul Martin, usunął Diona z rządu w celu zdystansowania się od poprzedniego rządu Chrétiena. Dion został przywrócony do rady ministrów, tym razem jako minister środowiska, w czerwcu tego samego roku po tym gdy Liberałowie uzyskali jedynie mniejszość parlamentarną, tracąc znaczną liczbę posłów z Quebecu.
W 2006 Dion ogłosił swoją kandydaturę w wyborach na lidera Partii Liberalnej. Był postrzegany jako trzeci lub czwarty kandydat za Michealem Ignatieffem oraz Bobem Rae. Niespodziewanie jednak został wybrany 2 grudnia 2006 w czwartej rundzie głosowania, pokonując Ignatieffa stosunkiem 2521 głosów do 2084. Po przegranych wyborach i nieudanej próbie utworzenia koalicji z NDP ze wsparciem Bloc Quebecois w 2008 został zastąpiony na stanowisku lidera partii przez Michaela Ignatieffa.
Od 4 listopada 2015 do 10 stycznia 2017 był ministrem spraw zagranicznych w rządzie Justina Trudeau, a od 1 maja 2017 jest ambasadorem w Niemczech i specjalnym wysłannikiem w Unii Europejskiej.