W tym czasie Herut nie był uważany przez partie rządzące (głównie Mapai Dawida Ben Guriona) za ugrupowanie znajdujące się w głównym nurcie polityki. Ugrupowanie odmawiało uznania Królestwa Jordanii, często używając sloganu: Do wybrzeży Jordanu, postulując zajęcie przez Izrael całości Zachodniego Brzegu. Begin opowiadał się także przeciwko wielu posunięciom rządu – m.in. porozumieniu z RFN w 1952 roku dotyczącemu odszkodowań dla państwa Izrael. Zachęcał do cywilnego nieposłuszeństwa podczas debaty na temat tego aktu. Wielokrotny premier, Dawid Ben Gurion, przy tworzeniu koalicji rządowych, kierował się zasadą bez Maki i Herutu (Maki była partią komunistyczną w Izraelu).
Wybory parlamentarne w 1951 roku okazały się klęską dla partii, której stan posiadania został zmniejszony niemal o połowę. Herut zapewnił sobie 8 deputowanych. Jednak już następne wybory, w 1955 roku okazały się dużym sukcesem. Herut otrzymał 15 miejsc w Knesecie, co dało mu pozycję drugiej partii pod względem wielkości w izbie (po Mapai).