Gdy do Izraela przybyła wielka fala żydowskich imigrantów z ZSRR, Szaron zainicjował program budowy 144 tysięcy nowych mieszkań.
W latach 1992–1996 był członkiem parlamentarnej Komisji Obrony i Spraw Zagranicznych. W 1996 roku został ministrem narodowej infrastruktury. Między innymi zawarł umowy o współpracy z Jordanią, Egiptem i Autonomią Palestyńską. W 1998 roku jako wicepremier uczestniczył w negocjacjach z władzami palestyńskimi. Kontrowersje wzbudziła jego ponowna nominacja na stanowisko ministra obrony (1998) w rządzie Binjamina Netanjahu.
Szaron na Wzgórzu Świątynnym 28 września 2000 roku Ariel Szaron, już jako lider opozycyjnego Likudu, wraz z delegacją tej partii odwiedził meczet znajdujący się na szczycie Wzgórza Świątynnego (Al-Haram Al-Sharif) na Starym Mieście w Jerozolimie. Jest to trzecie najświętsze miejsce w islamie, sąsiadujące z tzw. Ścianą Płaczu (inaczej Murem Zachodnim, czyli pozostałością po żydowskiej świątyni). Pretekstem dla wizyty Szarona były skargi wnoszone przez izraelskich archeologów pracujących nad rekonstrukcją stajni króla Salomona.