Historyczne początki Zakonu pozostają niejasne, tradycja datuje je na pierwszą krucjatę. Pierwsze dokumenty potwierdzające inwestyturę rycerską pochodzą z 1336 r. Zakon Rycerski Świętego Grobu w Jerozolimie korzystał z opieki papieży, którzy na przestrzeni wieków go reorganizowali i wzbogacali jego przywileje. Papież Aleksander VI ogłosił się w 1496 r. najwyższym moderatorem Zakonu i przekazał franciszkanom władzę nadawania rycerstwa szlachcie pielgrzymującej do Ziemi Świętej (władza inwestytury).
W 1847 r. Pius IX reaktywował Łaciński Patriarchat Jerozolimy, a nowo mianowanemu patriarsze podporządkował całą strukturę gałęzi rycerskiej Zakonu. W 1868 r. zatwierdził pierwszy statut odnowionego Zakonu i nadał patriarsze godność Wielkiego Mistrza. W 1888 r. za sprawą papieża Leona XIII zaczęto przyjmować do Zakonu również kobiety.
W 1907 r. Pius X zdecydował, że tytuł Wielkiego Mistrza Zakonu będzie należeć do papieża. W 1928 r. Pius XI zrzekł się godności Wielkiego Mistrza na rzecz patriarchy łacińskiego Jerozolimy. W 1932 r. Pius XI zatwierdził nowe statuty i zezwolił Kawalerom i Damom na otrzymanie inwestytury w miejscach ich pochodzenia, a nie tylko w Jerozolimie.