W 1997 rozpoczął karierę muzyczną w boysbandzie Hi Street, który założył wraz z Markiem Sośnickim. Pozostali członkowie tej grupy to Maciej Adamek, Radosław Wojak oraz polski piosenkarz algierskiego pochodzenia Ferid Lakhdar. Rok później Hi Street zadebiutował na XXXV Krajowym Festiwalu Piosenki Polskiej w Opolu i jesienią ukazała się na rynku debiutancka płyta, wydana przez PomatonEMI, którą promował teledysk „Gdy czujesz życia rytm”. Od debiutu zespół zagrał ponad 200 koncertów, w tym jeden, obok kilku innych polskich gwiazd, dla siedmiotysięcznej publiczności w Berlinie. W 2001 grupa Hi Street rozpadła się.

W listopadzie 2001 wydał solowy album zatytułowany po prostu Waldek Goszcz. Krążek promowały dwa single: „Orfeusz” i „Lalka”. Wystąpił w teledysku do piosenki K.A.S.Y. „Zostań po koncercie” (2002). Był jednym z twórców hymnu akcji I Ty możesz zostać św. Mikołajem.

Popularność wśród telewidzów przyniosła mu rola Adama w telenoweli Adam i Ewa (2000). Gościnnie wystąpił również w sitcomie Szpital na perypetiach (2002).