Przed kościołem znajduje się dziedziniec, zwany kalwarią. Z trzech stron otaczają go krużganki, w których umieszczono stacje męki Pańskiej. Po pożarze z roku 1989 krużganki i kalwaria zachowały się w stanie nienaruszonym.
W kościele pobernardyńskim znajdują się rozległe podziemne krypty – z grobowcami dobroczyńców klasztoru, szlachty oraz zakonników. Krypty te są jednymi z największych i najcenniejszych tego typu zabytków w północno-wschodniej Polsce. Kronika klasztorna zawiera wykaz osób tutaj pochowanych. Wykaz otwiera fundator Tomasz Gocłowski herbu Rola z Gocłów i jego żona Marianna z Bogdańskich. Wśród osób pochowanych w tym klasztorze występują nazwiska Zbierzchowskich, Mieczkowskich, Duczymińskich, Kisielnickich, Zaruskich, Bukowskich, Godlewskich, Mierzejewskich, Radgowskich i innych.
Przy północnej ścianie kościoła znajduje się pomnik ku czci Czwartaków poległych w 1831 roku w bitwie pod Ostrołęką.
W czerwcu 2007 r. kościół wszedł w posiadanie relikwii św. Antoniego, które zostały sprowadzone z Padwy.
5 listopada 2023 r. przybyły do Sanktuarium relikwie bł. Rodziny Ulmów.
Zobacz też Dekanat Ostrołęka – św. Antoniego Parafia św.