Wkrótce, nauczany przez Fostera, Josh wystąpił razem z Sarą Brightman podczas jej trasy koncertowej La Luna w 2000-01 r. śpiewając z nią utwór „There For Me”, który znalazł się na płycie z koncertami Sary. Groban zadebiutował ze swoją płytą dzięki piosence „For Always”, którą zaśpiewał razem z Larą Fabian. Jest to piosenka ze ścieżki dźwiękowej do filmu A.I. Sztuczna inteligencja. Groban także zaangażował się w wielu charytatywnych programach, m.in.: „The Andre Agassi Grand Slam Event For Children”, śpiewając u boku Eltona Johna, Stevie Wondera, Dona Henleya i Robina Williamsa, „Muhammad Ali’s Fight Night Foundation”, który zaszczycił swoją obecnością Michael J. Fox, „The Family Celebration” gdzie gościli prezydent Bill Clinton wraz z żoną, Hillary Clinton, David E. Kelley z żoną i Michelle Pfeiffer, czy „Michael Milken’s CapCure”, który wspierał osoby chore na raka.
Debiutancki album piosenkarza, zatytułowany Josh Groban został wydany 20 listopada 2001 roku. W czasie kolejnego roku, płyta ta zdobyła miano złotej, szybko przechodząc na podwójnie platynową aż do pięciokrotnej platyny.