Ness stanął też na czele kampanii mającej oczyścić policję z korupcji, jak i zmodernizować departament straży pożarnejEliot Ness: The Man Behind the Myth, Turner Broadcasting System, Inc..
Do 1938 roku życie osobiste Nessa zmieniło się całkowicie, a jego kariera zaczęła mieć pewne wzloty i upadki. Ness skoncentrował się na pracy, co mogło przyczynić się do rozwodu z jego pierwszą żoną, Edną. Wypowiedział wojnę mafii, a jego głównymi celami do schwytania byli: „Big” Angelo Lonardo, „Little” Angelo Scirrca, Moe Dalitz, John Angerola, George Angersola i Charles Pollizi. Ness był także dyrektorem ds. bezpieczeństwa, w czasie, gdy w Ohio dochodziło do kolejnych morderstw przez niezidentyfikowanych sprawców od 1935 do 1938 roku. Kariera Eliota Nessa stopniowo się załamywała. Krytycy Nessa wskazywali w tamtym okresie na jego kolejne rozwody, publicznie znaną skłonność do picia, jak i jego zachowanie w wypadku samochodowym w 1942 rokuEliot Ness Encyclopedia of Cleveland History..