W lutym 1965 r. ukazał się drugi album Ochsa, I Ain't Marching Anymore (Nie będę więcej maszerował). Prezentował on znów jego topical songs, wśród których była tytułowa piosenka, która prawie osiągnie status hymnu pieśni protestu. Mimo że był to album bardziej jednorodny i zdecydowany, w dalszym ciągu była to taka sama płyta jak poprzednia. Sprzedała się w ilości nieco ponad 40,000 egzemplarzy, ale Dylan miał już wtedy złote płyty. Po swoim zelektryfikowanym występie na festiwalu w Newport w 1965 r. (na którym Ochs nie wystąpił) Dylan gwałtownie i boleśnie spadł ze szczytu, na którym był wyrocznią i ideałem ruchu folkowego. Wolne miejsce przyznano więc Ochsowi.
Ale Ochs nie był bezmyślną kukłą i w artykule wydrukowanym w magazynie Broadside potępił wybuczenie Dylana jako akt bezmyślnej cenzury tłumu. Niemniej przez jakiś czas wypełniał swe obowiązki, śpiewając dalej polityczne pieśni protestu i biorąc udział w benefisowych koncertach na różne jedynie słuszne cele.
Odniósł także wtedy swój pierwszy sukces jako autor piosenek. Joan Baez nagrała jego utwór „There But for Fortune” i wydała na singlu, który wszedł do pierwszej dziesiątki na liście przebojów.