W kolejnych wyborach w 2002 (wygranych ponownie przez HZDS) również został wybrany na posła. Utrzymał stanowisko premiera na drugą kadencję, współtworząc koalicję udziałem Partii Węgierskiej Koalicji, KDH i ANO. W listopadzie 2002 Słowacja wraz z innymi sześcioma państwami została zaproszona do udziału w strukturach NATO, a jej akcesja nastąpiła w marcu 2004. W grudniu 2002 zakończono negocjacje z Unią Europejską, której członkiem Słowacja stała się 1 maja 2004.
W 2006 po przyłączeniu się do jego ugrupowania Partii Demokratycznej stanął na czele SDKÚ-DS.
Działalność od 2006 W wyborach w 2006 centroprawicowa koalicja poniosła porażkę i znalazła się w opozycji. Mikuláš Dzurinda utrzymał mandat poselski, który sprawował do 2010, nie ubiegając się wówczas o poselską reelekcję. W lipcu tego samego roku został ministrem spraw zagranicznych w nowo powołanym rządzie Ivety Radičovej, funkcję tę pełnił do kwietnia 2012. W wyniku wyborów w tym samym roku ponownie wybrany do parlamentu. Również w 2012 na czele partii zastąpił go Pavol Frešo. W 2014 Mikuláš Dzurinda zrezygnował z członkostwa w SDKÚ-DS.
W 2023 został jednym z liderów formacji Modrá koalícia (powstałej z przemianowania partii SPOLU), jednak wkrótce wycofał się z tej inicjatywy.