Wkrótce po wstąpieniu na tron Alp Arslan podjął najważniejszą decyzję swojego panowania, mianując wezyrem Persa Abu Ali Hasana Tusiego, bardziej znanego pod swym tytułem Nezam-al-Molk, znaczącym „Ład państwa” (albo „Porządek państwa”, „Organizacja państwa”), na który w pełni zasługiwał. Nezam-al-Molk zajmował się administracją cywilną, starając się zapanować nad samowolą tureckich wodzów, tymczasem Alp Arslan skoncentrował się na prowadzeniu wojen.

thumb|right|200px|Bitwa pod Manzikertem Od lat czterdziestych XI wieku różni wodzowie Seldżuccy zapuszczali się coraz głębiej na terytorium Zakaukazia w poszukiwaniu łupów. Przede wszystkim w celu zahamowania tych niekontrolowanych ataków, które groziły wybuchem konfliktu z Bizancjum, Alp Arslan zajął Armenię. Nic to jednak nie zmieniło, i w roku 1067 Turcy złupili Cezareę, co spowodowało, że Bizancjum podjęło decyzję o przeprowadzeniu kontrofensywy. Kiedy zatem w roku 1071 Alp Arslan najechał Syrię z zamiarem podjęcia świętej wojny przeciwko Fatymidom, dowiedział się, że cesarz Roman Diogenes wraz z wielką armią wyruszył na Armenię. Zawrócił więc, obawiając się o tyły swoich wojsk, i zaatakował Romana, w wyniku czego doszło do bitwy pod Manzikertem.