Łącznie w Bundeslidze rozegrał 52 mecze i strzelił 7 goli, a w 2. Bundeslidze zagrał w 252 meczach, strzelając w nich 81 goli.
Potem Löw wyjechał do Szwajcarii w celu kontynuowania kariery piłkarskiej. Reprezentował tam kluby: FC Schaffhausen (1989–1992), FC Winterthur (1992–1994) i FC Frauenfeld (1994–1995), gdzie zakończył piłkarską karierę.
Kariera reprezentacyjna Joachim Löw w latach 1979–1980 rozegrał 4 mecze w reprezentacji Niemiec U-21. W seniorskiej reprezentacji Niemiec nigdy nie zagrał.
Kariera trenerska Pracę trenerską rozpoczął jeszcze jako zawodnik, będąc m.in. grającym trenerem FC Frauenfeld. Od lipca 1995 był asystentem pierwszego trenera VfB Stuttgart Rolfa Fringera, którego zastąpił w sierpniu 1996, początkowo jako trener tymczasowy. Pozostał trenerem zespołu ze Stuttgartu do końca sezonu 1997/1998, zdobywając w 1997 Puchar Niemiec, a rok później doprowadzając drużynę do finału Pucharu Zdobywców Pucharów. Później był trenerem Fenerbahçe, Karlsruher SC, tureckiego Adanaspor, FC Tirol Innsbruck (mistrzostwo Austrii 2002), Austrii Wiedeń. W sierpniu 2004 został asystentem nowego selekcjonera reprezentacji Niemiec Jürgena Klinsmanna.