Jody Rosen z Rolling Stone określił „What the Hell” jako hymn o grzecznej dziewczynie, która późno wraca z szalonej imprezy i kłóci się ze swoim chłopakiemhttp://www.rollingstone.com/music/songreviews/what-the-hell-20101229&date=2011-01-09.. Sama piosenkarka przedstawiła piosenkę jako najbardziej popową, najmniej osobistą, o tematyce wolności osobistej. Bill Lamb z About.com, podobnie jak Gil Kaufman, zasugerował, że tekst utworu oparty jest na separacji i rozwodzie Lavigne z Whibleyem.
Krytyka Profesjonalne recenzje Wydawca Ocena About.com Digital Spy Idolator korzystna MTV korzystna Rolling Stone Stereoboard.com zróżnicowana
Wielu krytyków zauważyło podobieństwo utworu do wcześniejszego wizerunku Avril Lavigne zza czasów krążka The Best Damn Thing.