W 1949 roku przebywał między innymi w Syrii. Był współorganizatorem grupy niemieckich ekspertów wojskowych pracujących dla Syrii. Brał udział w przygotowaniu marcowego zamachu stanu. Mianowany przez Husniego Za'ima komisarzem ds. bezpieczeństwa, z zadaniem reformy syryjskiego wywiadu.
Po puczu sierpniowym Syria pozbyła się większości niemieckich doradców. Rauff dzięki pomocy kleru katolickiego otrzymał fałszywe dokumentyOliver Schröm, Andrea Röpke, Cicha Pomoc dla nazistów. Tajna działalność byłych SS-manów i neonazistów Replika Zakrzewo 2015, s.58. i trafił do Ekwadoru. Następnie przebywał w Punta Arenas w Chile, gdzie był hurtownikiem. Aresztowany w 1962 roku w Santiago. W 1963 roku został jednak zwolniony przez sąd najwyższy. W liście do Szymona Wiesenthala prezydent Salvador Allende, po wyborze na urząd, napisał, że nie jest w stanie zmienić decyzji sądu.