Zmuszona była przerwać działalność charytatywną i w 1850 wyjechała za granicę, na kurację. Przybyła do Rzymu, gdzie na spowiednika i kierownika duchowego obrała spotkanego o. Hieronima Kajsiewicza. Na jego ręce złożyła 7 maja 1851 prywatne śluby dozgonnej czystości i posłuszeństwa. W 1854 spotkała się z Marceliną Darowską. Wzajemne ich kontakty z czasem zacieśniały się i pogłębiały. Za początek istnienia Zgromadzenia Sióstr Niepokalanego Poczęcia NMP (niepokalanek) uważa się rok 1857, kiedy to grupa kilku kobiet wraz z Józefą Karską rozpoczęła życie wspólnotowe w rzymskim klasztorze na via Paolina. W 1858 powstały pierwsze konstytucje (reguła zgromadzenia). Dnia 8 grudnia 1859 odbyły się obłóczyny i publiczne śluby wieczyste Józefy Karskiej. Od tego czasu była matką Marią Józefą od Jezusa Ukrzyżowanego.
Śmierć W ostatnich dniach września 1860 o. Hieronim Kajsiewicz udzielił matce Józefie Sakramentu Chorych. Na łożu śmierci matka Józefa wyznaczyła Marcelinę Darowską na swoją następczynię. Śmierć matki Józefy nastąpiła dnia 11 października 1860, o godzinie 6:30. Pochowana została w podziemiach kościoła św. Klaudiusza w Rzymie, pod ołtarzem Matki Bożej Dobrej Rady.