Zaśpiewał „Gira Con Me”, „To Where You Are”, „The Prayer” z Céline Dion i finałową piosenkę „Aren’t They All Our Children” z takimi artystami jak Yolanda Adams, Nick Carter, Enrique Iglesias i Céline Dion.
2003–2006 Drugi album Grobana Closer też pod nadzorem Fostera, ukazał się 11 listopada 2003 r. Josh wierzył, że jego druga płyta jest lepszym odzwierciedleniem jego osoby i że w ten sposób fani podczas słuchania będą mogli dowiedzieć się czegoś więcej o jego osobowości.
Dwa miesiące po tym jak Closer wyszedł na rynek, wzniósł się na miejsce pierwsze listy Billboard 200 i pozostał na niej przez 98 tygodni. Jego cover utworu Briana Kennedy’ego „You Raise Me Up” stał się bardzo popularny w Adult contemporary. Josh również wykonał piosenkę „Remember” (z Tanją Carovską) do ścieżki dźwiękowej filmu Troja. Zaśpiewał też w 2004 r. piosenkę „Believe” do filmu animowanego Ekspres polarny, która została nominowana do Oscarów oraz stworzył cover piosenki Linkin Park „My December”.