Z tego powodu również Josef Weiler nie startował w konkursie skoków narciarskich podczas V Zimowych Igrzysk Olimpijskich 1948 w Sankt Moritz.
W zawodach rangi mistrzowskiej wziął udział dopiero w konkursach skoków narciarskich rozegranych podczas VI Zimowych Igrzysk Olimpijskich 1952 w Oslo, gdzie zajął 8. miejsce oraz na Mistrzostwach Świata w Narciarstwie Klasycznym 1954 w Falun, gdzie zajął 26. miejsce. W 1956 był członkiem reprezentacji swojego państwa podczas VII Zimowych Igrzysk Olimpijskich 1956 w Cortina d’Ampezzo, ale wrócił do domu jeszcze przed zawodami, po tym gdy zmarła jego matka. Wystartował także w 1953 w pierwszej edycji Turnieju Czterech Skoczni, w którym został sklasyfikowany na 5. miejscu. Wziął jeszcze udział w tej imprezie w sezonach 1953/1954 oraz 1955/1956.
Ponadto wraz z dwoma innymi narciarzami pochodzącymi z Oberstdorfu, Heini Klopferem i Toni Brutscherem, podjął inicjatywę budowy skoczni mamuciej w Oberstdorfie. Pierwsze zawody na nowym obiekcie przeprowadzono w 1950 roku. Josef Weiler był pierwszym zwycięzcą Międzynarodowego Tygodnia Lotów Narciarskich. Był także jednym z trzech skoczków, którzy ustanowili podczas tych zawodów rekord świata w długości skoku. Jego rekordowy skok na odległość 127 m miał miejsce 2 marca 1950 roku.