W tym czasie wstąpił do Młodych Konserwatystów.
Po kilku latach bez zatrudnienia rozpoczął w 1963 pracę w London Electricity Board. Rozpoczął również korespondencyjny kurs bankowości. W maju 1965 rozpoczął pracę w Standard Chartered Bank.
Kariera polityczna thumb|left|John Major W 1964 wystartował w wyborach do rady Lambeth Borough i wybory te niespodziewanie wygrał. W radzie był przewodniczącym komisji budownictwa, odpowiadając za budowę sieci osiedli mieszkaniowych. W maju 1971 przegrał wybory i utracił miejsce w radzie. W 1974 podjął próbę dostania się do Izby Gmin w okręgu St Pancras North. Ponieważ okręg ten był zdominowany przez laburzystów, wybory te przegrał. W listopadzie 1976 został wybrany przez lokalny oddział Partii Konserwatywnej w Huntingdonshire jako kandydat w tym okręgu w najbliższych wyborach. Wybory w 1979 zapewniły mu miejsce w parlamencie.
Po likwidacji okręgu wyborczego, w którym sprawował mandat, w 1983 wystartował z okręgu Huntingdon i wygrał wybory. Wygrywał także w latach 1987, 1992 i 1997. Wybory 1992 wygrał z rekordową przewagą 36 230 głosów.