Kariera trenerska Holendrowi powierzono funkcję trenera zespołu amatorskiego ADO Den Haag w 1991 roku. Sprawował ją aż do końca sezonu 1994/1995, po którym to odszedł do SVV Scheveningen, doprowadzając drużynę do zwycięstwa w lidze amatorskiej (trzeciej). Przygodę zakończył już półtora roku po objęciu posady w tym klubie. Od 1996 był trenerem Rody Kerkrade (z którym zdobył Puchar kraju), a od 1998 do 30 czerwca 2004 roku – RKC Waalwijk. Po przygodzie z Holandią postanowił przenieść się na Wyspy Brytyjskie, bowiem zaakceptował ofertę Franka Arnesena – dyrektora sportowego angielskiego Tottenham Hotspur F.C. i został asystentem Jacques'a Santiniego. Już wkrótce, bo 8 listopada francuski trener został zwolniony, a jego miejsce na ławce zajął właśnie Jol. W sezonie 2004/2005 trenowane przez niego "Koguty" uplasowały się na 9. pozycji, a rok później – na piątej (w kontrowersyjnych okolicznościach ustępując w tabeli Arsenalowi Londyn), jednocześnie kwalifikując się do Pucharu UEFA. Sukces powtórzył w kolejnym sezonie, zdobywając piąte miejsce, docierając także do ćwierćfinału Pucharu UEFA.