W sezonie 1969/70 po raz kolejny zostali zdegradowani o poziom niżej. W Second Division, Sunderland grał przez kolejne sześć sezonów. W 1976 roku, Sunderland zdobył mistrzostwo drugiej ligi i po raz drugi uzyskał awans do wyższej ligi. W kolejnym sezonie (1976/77) ponownie nie utrzymał się w First Division i po raz trzeci został zdegradowany o poziom niżej. Trzykrotnie spadając nie zajęli ani razu ostatniego miejsca, plasując się każdorazowo za ostatnią pozycją dającą utrzymanie.
W sezonie 1979/80, rok po obchodach 100-lecia klubu, Sunderland ponownie awansował do First Division. Po kolejnych pięciu latach w sezonie 1984/85 ponownie nie potrafili dotrzymać kroku rywalom. Zajęli przedostatnie miejsce w lidze i ponownie znaleźli się w drugiej lidze. Po następnych dwóch sezonach nastąpiła kolejna zmiana. Sunderland ponownie opuścił Second Division, tyle że nie uzyskali promocji do First Division a spadli o poziom niżej do Third Division. W trzeciej lidze grali tylko jeden sezon (1987/88), zdobyli mistrzostwo i ponownie znaleźli się w drugiej lidze. W sezonie 1989/90 Sunderland zajął szóste miejsce w Second Division i awansował do play-off. W meczu finałowym ulegli Swindon Town. Mimo to uzyskali awans do pierwszej ligi.