W nocy z 25 na 26 września 1953 został aresztowany razem z prymasem Wyszyńskim. Osadzono go w Areszcie Śledczym na Mokotowie. Tam przez 3 lata poddawany był brutalnemu śledztwu przez oprawców z Urzędu Bezpieczeństwa. Był m.in. 145 razy przesłuchiwany, niekiedy po kilkanaście godzin, zrywano mu paznokcie, przetrzymywano przez wiele dni bez ubrania w lodowatej, pełnej fekaliów celiTortury, jakim poddano abp. Baraniaka, były straszliwe. Zdzieranie paznokci, przetrzymywanie nago w niesławnej ciemnicy (wychłodzonej celi z mokrą posadzką i kapiącą wodą), pobicia, które pozostawiły ślad w postaci 10-centymetrowych blizn oraz psychiczne maltretowanie. To wszystko 50-letni duchowny znosił w osamotnieniu. Wiadomo, że w tym czasie odbyło się blisko 150 przesłuchań (niektóre trwały po kilkanaście godzin). Nowe dowody w sprawie oprawców abp. Baraniaka. Śledztwo wznowione. Mimo okrutnych tortur nie dał się złamać i nie obciążył prymasa, na czym zależało komunistycznym służbom. Uzyskanie takich zeznań umożliwiłoby wytoczenie kard. Stefanowi Wyszyńskiemu procesu o zdradę państwa i działalność kontrrewolucyjną. Zwolniony 30 października 1956, ponownie podjął obowiązki kierownika sekretariatu.