W sierpniu 2005 podpisał trzyletni kontrakt z holenderskim Heraclesem Almelo grającym w Eredivisie. Pierwszy występ w holenderskiej ekstraklasie zanotował tam 13 sierpnia 2005 w zremisowanym 1:1 meczu z PSV Eindhoven. W debiutanckim sezonie 2005/2006 pełnił tam rolę rezerwowego, ale od początku następnego był już podstawowym graczem ekipy z Polman Stadion. 31 grudnia 2006 strzelił pierwszego gola w trakcie gry w Eredivisie. Było to w zremisowanym 2:2 spotkaniu z Vitesse Arnhem.
thumb|upright|Ragnar Klavan w 2011 roku
27 stycznia 2009 Klavan został wypożyczony do innego pierwszoligowca – AZ Alkmaar. Zadebiutował tam 4 lutego 2009 w wygranym 1:0 pojedynku z Rodą Kerkrade. W sezonie 2008/2009 wywalczył z klubem mistrzostwo Holandii. 1 lipca 2009 na zasadzie transferu definitywnego trafi do AZ Alkmaar.
W lipcu 2012 Klavan przeszedł do FC Augsburg. 10 maja 2014 przedłużył kontrakt z Augsburgiem do 2016 roku.
Statystyki kariery Aktualne na dzień 24 kwietnia 2018 r. Brak jest dokładnych danych dla rozgrywek Pucharu Estonii.