Jego następcą został Abu Abd Allah ar-Raszid al-Baghdadi. 15 października 2006 roku organizacja zmieniła nazwę na Islamskie Państwo w Iraku. Prowadziła nadal wojnę partyzancką z wojskami państw zachodnich stacjonującymi w Iraku, przeprowadzając liczne ataki terrorystyczne. Organizacja, której apogeum terroru przypadło na lata 2006–2007, została rozbita w latach 2008–2009. Al-Baghdadi został zabity 19 kwietnia 2010 roku w wiosce As-Sarsar, położonej 80 km na zachód od Bagdadu podczas operacji irackich i amerykańskich sił lądowych. Żołnierze zaatakowali rakietami dom, w którym się ukrywał. Schedę po nim objął Abu Bakr al-Baghdadi.
Rządy kolejnego al-Baghdadiego przypadły na okres wycofywania się amerykańskich wojsk okupacyjnych z Iraku. W grudniu 2011 roku Islamskie Państwo w Iraku rozpoczęło nową falę aktów terrorystycznych. W odwecie za marginalizację sunnitów przez szyicki rząd Nuriego al-Malikiego ekstremiści przeprowadzali regularne ataki wymierzone w szyitów, co doprowadziło Irak na skraj wojny religijnej. Ponadto eskalujący konflikt wyznaniowy w sąsiedniej Syrii wpłynął na działania militarne sunnickich ekstremistów w Iraku.
Islamskie Państwo w Iraku odpowiada za liczne ataki i zamachy terrorystyczne oraz porwania, tortury i morderstwa, głównie w środkowym Iraku (zwłaszcza w tzw.