W 2003 roku powrócił jednak do Premiership, a w 2004 roku został wypożyczony do Ipswich Town, z którym grał w Division One. W 2005 roku wrócił do Leicester, które międzyczasie znów doświadczyło degradacji, ale niedługo potem zakończył piłkarską karierę z powodu kontuzji kolana.
Kariera reprezentacyjna Babcia Matta była Szkotką, toteż Elliott został uprawniony do występów w reprezentacji Szkocji. W niej zadebiutował 12 listopada 1997 roku w przegranym 1:2 spotkaniu z Francją. W 1998 roku został powołany przez Craiga Browna do kadry na mundial we Francji, ale tam nie wystąpił w żadnym ze spotkań Szkotów. Po wyjazdowym meczu eliminacyjnym do Euro 2000 z Wyspami Owczymi (1:1), 5 czerwca 1999 roku, został - w następstwie otrzymanej w tym meczu czerwonej kartki - wyrzucony z reprezentacji przez Craiga Browna, który wówczas powiedział o Elliott'cie: „Ten pan, dopóki jestem trenerem reprezentacji Szkocji, więcej w niej nie zagra”. Po rezygnacji Browna Elliott wrócił do reprezentacji, by ostatecznie zakończyć w niej karierę w 2001 roku, a jego ostatnim występem był mecz z Łotwą (2:1).