W 2011 i w 2014 ponownie wybierany do parlamentu.
10 lutego 2012 został ministrem spraw zagranicznych w drugim rządzie Janeza Janšy. Utrzymał to stanowisko w powołanym 20 marca 2013 gabinecie Alenki Bratušek oraz w utworzonym 18 września 2014 w rządzie Mira Cerara. We wszystkich tych trzech gabinetach pełnił funkcję wicepremiera.
W wyborach w 2018 jego ugrupowanie ponownie przekroczyło próg wyborczy, jednakże Karl Erjavec nie został wybrany na kolejną kadencję słoweńskiego parlamentu. Pozostał liderem swojej partii, 18 września 2018 zakończył pełnienie dotychczasowej funkcji rządowej. Powrócił wówczas na urząd ministra obrony w gabinecie, na którego czele stanął Marjan Šarec. Został także jednym z wicepremierów w nowym rządzie.
W styczniu 2020 utracił przywództwo w partii, przegrywając w głosowaniu z Aleksandrą Pivec. W marcu 2020 zakończył pełnienie funkcji rządowych. W grudniu tego samego roku ponownie wybrany na przewodniczącego DeSUS. W lutym 2021 był kandydatem ugrupowań opozycyjnych na premiera;