Kariera Studiował przez jeden semestr w Eugene O’Neill National Theater Institute w Waterford w Connecticut, a także w Royal Shakespeare Company i nowojorskim The Actors Center. W 2002 otrzymał dyplom honorowy z Uniwersytetu Browna na wydziale literatury angielskiej. Występował na scenie off-Broadwayu i dorabiał jako kelner.
Pojawił się w tragikomedii Davida Mameta Hollywood atakuje (State and Main, 2000) z Alekiem Baldwinem. Jego kariera telewizyjna rozpoczęła się w 2002 roku w programie Late Night with Conan O’Brien z Conanem O’Brienem. W latach 2005–2013 grał postać Jamesa “Jima” Duncana Halperta w sitcomie NBC Biuro (The Office).
Zagrał małą rolę Bena w dramacie biograficznym Billa Condona Kinsey (2004). Pojawił się także jako Bob Flynn w filmie niezależnym Duane Hopwood (2005), kapral Harrigan w dramacie Sama Mendesa Jarhead. Żołnierz piechoty morskiej (Jarhead, 2005), Ben w komedii romantycznej Nancy Meyers Holiday (2006) z Cameron Diaz i Kate Winslet.
Od marca 2006 roku Krasinski swoim głosem reklamował Ask.com.