W 1849 roku został wybrany do Senatu Stanów Zjednoczonych w miejsce zmarłego Dixona Halla Lewisa. Nie został wybrany na kolejną kadencję, ponieważ utracił zaufanie Partii Demokratycznej, przede wszystkim z powodu swojego niezdecydowania w sprawie Kompromisu 1850 roku – ugody politycznej dotyczącej zasięgu niewolnictwa w Stanach Zjednoczonych. Clemens początkowo był jej przeciwny, później jednak zmienił zdanie.
Po zakończeniu kadencji przeniósł się do Memphis, gdzie w 1859 roku zaczął wydawać gazetę, Memphis Eagle and Enquirer. Zaczął też pisać powieści historyczne: Bernard Lile (1856) i Mustang Grey (1858) oparte były na jego własnych doświadczeniach z walk w Teksasie, natomiast powieść The Rivals (1860) opowiadała o życiu Aarona Burra i Alexandra Hamiltona. Około 1860 roku powrócił do Huntsville. W 1860 roku, w czasie kryzysu związanego z secesją był przeciwnikiem natychmiastowej secesji południowych stanów z Unii. Opowiadał się za debatą w sprawie secesji, a następnie za zorganizowaniem powszechnego referendum, jednak jego propozycje zostały zignorowane przez zwolenników secesji, którzy stanowili większość. Ostatecznie Clemens podpisał deklarację o secesji Alabamy z Unii Amerykańskiej.