Poświęcenie kościoła nastąpiło w 1654, prace parafialne w swoich dobrach karmelici zlecali kapłanom świeckim. W 1655 świątynia została zniszczona w czasie działań wojennych, zakonnicy schronili się w Wilnie i Warszawie. Powrót karmelitów do fundacji oraz odrodzenie klasztoru nastąpiło w 1660 i trwało do 1730.
22 maja 1670 założone zostało Bractwa św. Józefa, a w XVII wieku istniał w kościele uważany za cudowny i otaczany kultem obraz Matki Bożej Szkaplerznej. W 1724 klasztor włączono do prowincji litewskiej św. KazimierzaInne źródła podają 1734., z siedzibą w Wilnie. Nowicjat w klasztorze w Głębokiem rozpoczął się 15 lipca 1727, gdy przeniesiono go z Wilna.
W latach 1730–1735 rozbudowano kościół w stylu baroku wileńskiego, według projektu nieznanego włoskiego architekta (nie był nim, jak dawniej sądzono, Jan Krzysztof Glaubitz). Anonimowy autor kościoła, będący prekursorem baroku wileńskiego, zaprojektował później jeszcze dzwonnicę kościoła Wszystkich Świętych w Wilnie i kościół Dominikanów w Mińsku. Świątynię w Głębokiem budowano pod nadzorem Franciszka Placidiego. Konsekracja nastąpiła 3 lipca 1735 przez biskupa Jerzego Ancutę. Od tego roku do 1798 klasztor leżał w diecezji wileńskiej.
11 lutego 1750 przy kościele założono kościelne Bractwo św.