Artysta zagrał rolę Malcolma Wayatta w maju 2001 w serialu Ally McBeal śpiewając „You’re Still You”. Scenarzysta, David E. Kelley, był zachwycony występem Josha w „The Family Celebration” i patrząc na reakcje publiczności, Kelley stworzył specjalnie dla Grobana tę postać. Osoba Malcolma Wayatta stała się bardzo popularna, dzięki tysiącom e-maili od fanów, Josh został poproszony o ponowne pojawienie się w serialu w kolejnej serii, gdzie zaśpiewał „To Where You Are”.
24 lutego 2002 r., Josh zaprezentował „The Prayer” z Charlotte Church podczas ceremonii zamknięcia Zimowej Olimpiady i w listopadzie wydał specjalną płytę CD/DVD Josh Groban in Concert. Razem z Larą Fabian wystąpił podczas koncertu Boston Pop’s śpiewając z nią utwór „For Always”. W grudniu wykonał „To Where You Are” oraz zaśpiewał „The Prayer” z Sissel Kyrkjebø podczas Koncertu Pokojowej Nagrody Nobla w Oslo, Norwegii. Następnie wraz z The Corrs, Ronanem Keatingiem, Stingiem, Lionelem Richie i innymi połączył siły w koncercie świątecznym w Watykanie, w Rzymie, we Włoszech. W 2003 r. Groban pojawił się na koncercie Word Children’s Day stworzonym przez Davida Fostera.