Więzienie zostało zbudowane przez Francuzów w latach 1886–1889 (według innych źródłem 1898 lub 1901), gdy Wietnam był częścią Indochin Francuskich. Francuzi nazywali więzienie „Maison Centrale” („Domem Centralnym”), co nadal jest nazwą więzień dla niebezpiecznych lub skazanych na bardzo długie wyroki więźniów we Francji. Obiekt znajdował się w pobliżu Dzielnicy Francuskiej w Hanoi. Miał służyć do przetrzymywania Wietnamczyków, szczególnie więźniów politycznych osadzonych za działalność niepodległościową, którzy często byli tam poddawani torturom i egzekucjom. Przebudowa w 1913 roku pozwoliła zwiększyć pojemność więzienia z 460 do 600 więźniów. Mimo to obiekt często i tak był przepełniony, z obecnością średnio 730 więźniów każdego dowolnego dnia w 1916 roku; liczba ta wzrosła do 895 w 1922 roku i 1430 w 1933 roku. Do 1954 roku przetrzymywano w nim ponad 2000 osób, często w nieludzkich warunkach, a więzienie stało się symbolem kolonialnego ucisku i niechęci Wietnamczyków wobec Francuzów.