14 grudnia 2013 został wiceprzewodniczącym PO, pełnił tę funkcję do 2016. 22 września 2014 objął stanowisko ministra sprawiedliwości w nowo powołanym rządzie Ewy Kopacz. W 2015 był jednym z założycieli komitetu wyborczego Bronisława Komorowskiego w wyborach prezydenckich. 29 kwietnia 2015 po pojawiających się w mediach informacjach o możliwych nieprawidłowościach przy uzyskaniu pozwolenia na broń złożył dymisję ze stanowiska ministra, która została przyjęta. Dzień później został odwołany przez prezydenta. Jeszcze w 2015 prokurator umorzył postępowanie w sprawie związanej z uzyskaniem pozwolenia na broń przez polityka, nie stwierdzając przestępstwa.
W 2015 został ponownie wybrany do Sejmu, otrzymując 26 591 głosów. W Sejmie VIII kadencji został członkiem Komisji Infrastruktury oraz Komisji Obrony Narodowej. W listopadzie 2016 został powołany na funkcję wiceministra rozwoju i infrastruktury w gabinecie cieni utworzonym przez Platformę Obywatelską. Ponownie wszczęto postępowanie w sprawie poświadczenia nieprawdy w dokumentach przez Cezarego Grabarczyka przy uzyskaniu pozwolenia na broń. Polityk, nieprzyznający się do popełnienia tego czynu, sam zrzekł się immunitetu, a w marcu 2018 przedstawiono mu zarzuty.