Po straconym pół roku we Włoszech Afolabi wrócił do Liège. W drużynie grał jednak dopiero w następnym sezonie – 2001/2002. Standard zajął 5. miejsce, a Afolabiego uznano najlepszym obrońcą w Belgii. Kolejny sezon nie był już tak udany. Rabiu zagrał tylko 14 ligowych meczów, a i cały Standard zagrał słabiej kończąc ligę na 7. pozycji.
Latem 2003 skończył mu się kontrakt z belgijskim zespołem i na podstawie prawa Bosmana przeszedł do mistrza Austrii, Austrii Wiedeń. W Bundeslidze zadebiutował w barwach stołecznego klubu już w 1. kolejce ligowej, 16 lipca w przegranym 1:2 wyjazdowym meczu z FC Kärnten. Afolabi rozegrał 33 mecze i całkiem dobry sezon oraz wspomógł Austrię w wywalczeniu wicemistrzostwa Austrii. Latem 2004 zainteresowanie Rabiu wykazał Olympique Marsylia, a także inne kluby, ale ostatecznie zdecydował się zostać w Wiedniu. Zagrał w 27 meczach ligowych w sezonie, we wszystkich od pierwszej do ostatniej minuty oraz zdobył 1 gola w wygranym 3:0 wyjazdowym meczu z FC Wacker Tirol. Zespół Austrii był jednak krytykowany za słabszą postawę w lidze i zajął w niej dopiero 3. miejsce za Rapidem Wiedeń i Grazer AK. Lepiej było w Pucharze UEFA, gdzie Wiedeńczycy doszli aż do półfinału.