Później nie udało się już powtórzyć tego sukcesu, a wygrać kolejny raz Oberligę FC Saarbrücken zdołał dopiero w 1961 roku.
W roku 1963 utworzona została Bundesliga, w której skład weszło 16 klubów wybranych przez komitet selekcyjny. Klub 1. FC Saarbrücken jako mistrz swojej ligi i dwukrotny finalista mistrzostw Niemiec spełnił warunki i zakwalifikował się do Bundesligi.
Na koniec pierwszego sezonu Bundesligi 1963/1964 FC Saarbrücken uplasował się na ostatnim miejscu. Późniejsze próby powrotu kończyły się niepowodzeniem aż do 1976 roku, kiedy to drużyna z Saary wygrała południową grupę drugiej ligi niemieckiej (2.Bundesliga Süd). Po dwóch sezonach w najwyższej lidze nastąpił spadek do drugiej ligi. Klub dwukrotnie wracał do Bundesligi – w roku 1985 oraz w roku 1992. Oba powroty kończyły się spadkiem po jednym sezonie gry na najwyższym poziomie rozgrywkowym. W roku 1995 klub spadł do trzeciej ligi (Regionalliga West/Südwest). W sezonie 2005/2006 klub zajął 16. miejsce w drugiej lidze i spadł do trzeciej ligi. W sezonie 2006/2007 zajął 15. miejsce w trzeciej lidze, przez co spadł do 4. ligi. W 2010 roku klub wrócił do 3. Fußball-Ligi, a w 2014 r.