Latem 2003 roku Rau przeszedł do Bayernu Monachium. Kosztował 2,2 miliona euro. Swój pierwszy mecz w bawarskiej drużynie rozegrał 1 sierpnia przeciwko Eintrachtowi Frankfurt. Jednak na skutek wysokiej konkurencji w składzie Bayernu był tylko rezerwowym i przegrywał rywalizację z takimi zawodnikami jak Bixente Lizarazu czy Hasan Salihamidžić. Przez dwa lata rozegrał zaledwie 13 meczów w Bundeslidze, a także kolejnych 7 w amatorskich rezerwach Bayernu. W 2004 roku był wicemistrzem Niemiec i zdobył Puchar Ligi Niemieckiej, a w 2005 roku wywalczył mistrzostwo kraju i Puchar Niemiec.
W lipcu 2005 roku Rau został sprzedany z Bayernu do Arminii Bielefeld. W Arminii jednak nie odzyskał dawnej formy i zarówno sezon 2005/2006, jak i 2006/2007 spędził na ławce rezerwowych lub lecząc kontuzje. W 2009 roku zakończył karierę.