Początkowo zagrali kilka małych koncertów, w tym podczas In the City w Manchesterze. W 2003 roku członkowie zespołu zdecydowali, że chcą frontmana, ponieważ dotychczasowi wokaliści, Archis i Duncan, chcieli skupić się na pisaniu piosenek. Wówczas to dziewczyna Englisha zauważyła swojego przyjaciela Paula Smitha śpiewającego „” Steviego Wondera.
Około marca 2004 roku przyjaciel zespołu sfinansował 300 kopii 7-calowego czerwonego winylowego singla („” / „”), który Lloyd nagrał w swoim mieszkaniu z Englishem w Fenham w Newcastle upon Type. Drugim wydawnictwem Maxïmo Park był 7-calowy singel z utworami „” i „The Night I Lost My Head”, nagranymi przez .
Po okresie koncertowania zespołu w rodzinnym mieście, Steve Beckett z wytwórni Warp Records, wydającej muzykę dance i elektroniczną, nabył jedną z płyt Maxïmo Park i postanowił podpisać kontrakt z zespołem po tym, jak zobaczył ich występ w . Na początku 2005 roku za pośrednictwem Warp grupa wydała singel „Apply Some Pressure”, który następnie znalazł się pierwszej dwudziestce listy UK Singles Chart. Piosenka ta użyta została w grach Burnout Revenge, i .