procesie Rivonia, broniąc oskarżonego Jimmy'ego Kantora. Odwiedził również w więzieniu Nelsona Mandelę.
thumb|left|180px|Harry Schwarz i prezydent Bill Clinton z małżonkami, 1993 W łonie VP reprezentował frakcję liberalną. W 1972 zastąpił konserwatystę Maraisa Steyna w roli przewodniczącego VP w Transvaalu. Dwa lata później zdobył mandat deputowanego do parlamentu federalnego w Kapsztadzie, jednak w kolejnym roku został wyrzucony z VP za podpisanie tzw. deklaracji Mahlabatiniego (o pokoju rasowym w RPA). W lutym 1975 wraz z czterema innymi posłami VP założył Partię Reformistyczną (Reformiste Party), która dysponowała pięcioma posłami w Zgromadzeniu Narodowym, jednym senatorem oraz 10 radnymi w Radzie Prowincji Transvaalu (dzięki temu miała status oficjalnej opozycji w tej prowincji). Po kilku miesiącach ugrupowanie połączyło się z Partią Postępową (Progressiewe Party) w Postępową Partię Reformistyczną (Progressiewe Reformiste Party – PRP) z Colinem Eglinem jako liderem. Schwarz był rzecznikiem opozycji ds. finansów i obrony narodowej. Później znalazł się wśród członków założycieli Partii Demokratycznej.