Adams uważał, że nie powinien odpowiadać na zarzuty tego typu, co przyczyniło się do jego porażki, zarówno w wyborach powszechnych, jak i w Kolegium Elektorów, gdzie uzyskał 83 głosy, wobec 178 głosów Jacksona. Podobnie jak jego ojciec, Adams zbojkotował uroczystość zaprzysiężenia swojego następcy.

Nominacje do Sądu Najwyższego John Q. Adams nominował jednego sędziego Sądu Najwyższego Stanów Zjednoczonych: (20) Robert Trimble (16 czerwca 1826)

Emerytura Po opuszczeniu Białego Domu powrócił do rodzinnej posiadłości w Braintree. W 1830 roku został wybrany do Izby Reprezentantów. Do końca życia był jednym z najbardziej wpływowych jej członków. Sprzeciwiał się wówczas urzędującemu prezydentowi Jacksonowi, choć potrafił poprzeć jego inicjatywy, które uważał za słuszne. Konsekwentnie walczył o zniesienie niewolnictwa, dlatego też sprzeciwiał się aneksji Teksasu. Z jego inicjatywy powstał m.in. Smithsonian Institution, a pierwsze obserwatorium astronomiczne nazwane zostało później jego nazwiskiem – Mount Adams.

W 1834 bez powodzenia ubiegał się o urząd gubernatora Massachusetts, jako kandydat Partii Antymasońskiej.