24 lipca 1997 roku Burley przeszedł do Celtic F.C. Suma transferu wyniosła 2,5 miliona funtów, a on sam stał się pierwszym transferem nowego menedżera klubu, Wima Jansena. W nowej drużynie swój pierwszy mecz rozegrał 3 sierpnia przeciwko Hibernian F.C., przegrany przez klub z Glasgow 1:2. W Celticu grał w podstawowym składzie, a w sezonie 1997/1998 wywalczył tytuł mistrza Szkocji. Zdobył 10 bramek, a za postawę w lidze dziennikarze wybrali go Piłkarzem Roku w Szkocji. Z „The Bhoys” zdobył także Puchar Ligi Szkockiej. Rok później został z Celtikiem wicemistrzem kraju.
2 grudnia 1999 roku Burley zmienił barwy klubowe i powrócił do Premiership. Został zawodnikiem Derby County, które zapłaciło za niego 3 miliony funtów. 5 września rozegrał swój pierwszy mecz dla "The Rams", którzy przegrali 0:1 na wyjeździe z Leeds United. W Derby grał w podstawowym składzie jednak w 2001 roku w meczu z Newcastle United doznał ciężkiej kontuzji i do gry wrócił dopiero w sezonie 2002/2003, a Derby międzyczasie spadło do Division One. Z czasem stracił miejsce w składzie drużyny prowadzonej przez Johna Gregory’ego i latem 2003 odszedł z zespołu.