W lutym 1991 zrezygnował z mandatu posła. W latach 1991–1995 pełnił obowiązki ambasadora RPA w Waszyngtonie jako pierwszy w historii przedstawiciel opozycji (był jednocześnie pierwszym ambasadorem swego kraju na Barbadosie). W USA zabiegał o poparcie dla południowoafrykańskiego procesu pojednania oraz próbował zjednać amerykańskich polityków dla zniesienia sankcji wobec kraju. W 1991 podpisał traktat o nieproliferacji broni masowej zagłady.
W 1995 uzyskał tytuł doktora honoris causa Uniwersytetu Judaistycznego w USA (obecnie: Amerykański Uniwersytet Żydowski). W tym samym roku analogiczny tytuł przyznał mu Uniwersytet w Stellenbosch. W 2002 został mianowany honorowym wiceprzewodniczącym Rady Prowincji Gauteng (dawny Transvaal).
W 2000 zrezygnował z członkostwa w PD z powodu sojuszu z Nową Partią Narodową.
W ostatnich latach życia zajmował się prawem, głównie w dziedzinie bankowości, ubezpieczeń i dyplomacji. Wraz z żoną założył towarzystwo dobroczynne Schwarz Upliftment Trust. Mieszkał w Johannesburgu wraz z żoną Annette (poślubioną w 1952) – siostrzenicą działacza związkowego Jimmy'ego Greena.