Proces odbył się w 1931 roku. Został uznany za winnego pięciu z dwudziestu dwóch zarzutów dotyczących unikania płacenia podatków. Sąd skazał go w sumie na jedenaście lat pozbawienia wolności, musiał też zapłacić 80 tysięcy dolarów grzywny i kosztów procesu.
Więzienie W maju 1932 roku został wysłany do Atlanty, do więzienia federalnego o zaostrzonym rygorze, w którym jednak uzyskał dla siebie pewne przywileje. Później został przeniesiony do Alcatraz, gdzie nie mógł liczyć na specjalne traktowanie. Był też odcięty od kontaktów ze światem zewnętrznym. Z tego powodu, a także w wyniku zniesienia prohibicji, jego imperium zaczęło podupadać.
Od początku pobytu w tym zakładzie, Capone miał wielu wrogów wśród współwięźniów, głównie z powodu nierespektowania więziennych zwyczajów i odmowy udziału w buntach. Był często nękany, próbowano go nawet kilka razy zabić. Ostatni rok odbywania kary spędził w więziennym szpitalu, głównie z powodu syfilisu, którego nabawił się w młodości, a także psychicznego wyczerpania. Opuścił Alcatraz 6 stycznia 1939 roku i został umieszczony w więzieniu o złagodzonym rygorze w Kalifornii.