Józef Rolle do gimnazjum uczęszczał w Winnicy, a następnie w Niemirowie. Maturę zdał w Kijowie, studia medyczne odbył w latach 1850–1855 na Uniwersytecie Kijowskim. Po studiach poświęcił się psychiatrii – odbył praktykę specjalizacyjną w Sonnenstein pod Dreznem w roku 1858, a następnie hospitował ośrodki psychiatryczne w Paryżu. Od roku 1861 zamieszkał w Kamieńcu Podolskim, gdzie kierował oddziałem dla umysłowo chorych, uzyskując opinię dobrego lekarza i społecznika. Rolle zniósł krępowanie chorych, wprowadził wodolecznictwo i terapię zajęciową. Chociaż nie piastował stanowiska akademickiego, miał znaczny dorobek pisarski, liczący około 75 prac.
Jego dworek przy ul. Karmelickiej w Kamieńcu Podolskim mieścił imponującą bibliotekę, liczącą kilka tysięcy woluminów i kolekcję pamiątek narodowych. Prowadził dom otwarty. Jego atmosfera wywarła znaczący wpływ m.in. na Józefa KallenbachaAleksander Rasszczupkin: Kamieniec Podolski. Antemurale Christianorum. Kamieniec Podolski, 2006., bywali w nim również Tadeusz Korzon, Kornel Ujejski, Włodzimierz Spasowicz, Adam Pług. Szkice historyczne i felietony sygnował pseudonimami: dr Antoni J., dr A.