Z powodzeniem ubiegał się od tego czasu o poselską reelekcję w pięciu kolejnych wyborach w 1988, 1989, 1993, 1996 i 2000.
W 1985 objął przywództwo Sojuszu Ludowego w Kastylii i Leónie. Odszedł z funkcji zastępcy sekretarza generalnego struktur krajowych, gdy władzę w partii przejął Antonio Hernández Mancha. W czerwcu 1987 przy wsparciu ludowców oraz Centrum Demokratycznego i Społecznego stanął na czele rządu wspólnoty autonomicznej Kastylii i Leónu, urząd prezydenta sprawował do września 1989. Wcześniej w tym samym roku został wiceprzewodniczącym Partii Ludowej, ugrupowania powstałego na bazie Sojuszu Ludowego. Był również kandydatem tego stronnictwa na urząd premiera, jednakże w wyborach ponownie zwyciężyli socjaliści z PSOE. W 1990 José María Aznar został wybrany na nowego przewodniczącego Partii Ludowej w miejsce Manuela Fragi. Po wyborach z 1993 kierowana przez niego Partia Ludowa pozostała w opozycji, jednak znacząco zwiększyła swoje poparcie, uzyskując w kolejnych dwóch latach dobre wyniki w wyborach lokalnych i regionalnych. W 1995 terroryści z ETA przeprowadzili zamach bombowy na życie polityka, lider opozycji nie odniósł wówczas poważnych obrażeń dzięki opancerzonemu samochodowi, którym się poruszał.