Po raz pierwszy został wybrany na posła w wyborach w 2001 w okręgu sieradzkim. W Sejmie IV kadencji pełnił funkcję przewodniczącego Komisji Nadzwyczajnej do spraw zmian w kodyfikacjach. Zasiadał w Komisji Sprawiedliwości i Praw Człowieka, Komisji Infrastruktury oraz w tzw. komisji śledczej ds. prywatyzacji PZU. Ponownie uzyskał mandat poselski w wyborach w 2005, w V kadencji kierował sejmową Komisją Sprawiedliwości. W latach 2004–2007 wyróżniany przez tygodnik „Polityka” w rankingu najlepszych posłów IV i V kadencji. W wyborach parlamentarnych w 2007 po raz trzeci został posłem, otrzymując w okręgu łódzkim 44 610 głosów.
16 listopada 2007 objął stanowisko ministra infrastruktury w pierwszym rządzie Donalda Tuska.
W wyborach parlamentarnych w 2011 kandydował z pierwszego miejsca listy PO w okręgu łódzkim. Uzyskał mandat poselski, zdobywając 24 582 głosy. 7 listopada 2011 został odwołany z urzędu ministra, a następnego dnia wybrany na wicemarszałka Sejmu VII kadencji.