Przewodził ruchem na rzecz konwencji o prawie Georgii do głosowania za secesją od Unii. W 1861 zrezygnował z mandatu senatora i był delegatem na konwencję Montgomery'ego, na której utworzono Konfederację. Był poważnie rozczarowany tym, że nie został wybrany prezydentem Skonfederowanych Stanów Ameryki, mimo to został mianowany przez Jeffersona Davisa sekretarzem stanu CSA, jednak po kilku miesiącach zerwał z Davisem i opuścił urząd. W lipcu 1861 objął dowództwo brygady Georgii w stopniu generała brygady, wziął udział m.in. w bitwie pod Antietam, jednak jego doświadczenie wojskowe było niewystarczające. Gdy nie otrzymał awansu, z wściekłością zrezygnował z dowodzenia. Wielokrotnie krytykował politykę Konfederacji i przywództwo Davisa, zwłaszcza pobór, zawieszenie habeas corpus, i zależność od kredytu w finansowaniu środków wojennych. W maju 1865 uciekł przez Nowy Orlean i Hawanę do Londynu, wrócił do Georgii w 1867, jednak odmówił ubiegania się o ułaskawienie i przyrzeczenia lojalności.