Drugi album Hella "The Devil Isn't Red" ukazał się w 2004 roku. Jest to jeszcze gęstsza synteza wczesnego brzmienia z dokonaniami w studio z poprzedniego roku. Wydana przez Suicide Squeeze Records w 2005 roku płyta "Church Gone Wild / Chirpin Hard" idzie jeszcze dalej w kierunku eksperymentu. Jest to w zasadzie podwójna płyta solowa członków duetu – każdy nagrał swoją płytę niezależnie od drugiego. Płyta Zacha "Church Gone Wild" to 56 minut niezgłębialnego hałasu, podczas gdy płyta Spencera "Chirpin Hard" to połączenie 8-bitowego brzmienia Nintendo z punkiem i technicznością math rocka. W 2005 roku na koncertach Hella wspomagali Dan Elkan (śpiew, gitara, syntezator) oraz Jonathan Hischke (bas). W tym składzie koncertowali w USA jako support przed występami Outhud in Spring, System of a Down, The Mars Volta, Lesa Claypoola i Dillinger Escape Plan. Poza Stanami zagrali w Japonii, Hiszpanii i Anglii. 9 listopada 2005 roku nakładem 5RC Records ukazała się płyta CD+DVD "Concentration Face / Homeboy".