20 maja 1959 mianowany internuncjuszem przy chińskim rządzie na Tajwanie; w październiku 1961 został arcybiskupem tytularnym Apollonia, sakry udzielił mu 14 grudnia 1961 w Benewencie kardynał Grégoire-Pierre XV Agagianian, prefekt Kongregacji Rozkrzewiania Wiary. Arcybiskup Caprio uczestniczył w pracach Soboru Watykańskiego II (1962-1965), a w sierpniu 1967 przeszedł na stanowisko pronuncjusza w Indiach. Przewodniczył delegacji Watykanu na II Konferencji Narodów Zjednoczonych ds. Handlu i Rozwoju w Nowym Delhi (1968). Od kwietnia 1969 pracował w Kurii Rzymskiej, został sekretarzem Administracji Patrymonium Stolicy Apostolskiej; od czerwca 1977 substytut w Sekretariacie Stanu. Po wyborze Karola Wojtyły na papieża, to on pomagał mu oswoić się z urzędem papieskim oraz to właśnie on asystował mu podczas słynnych odwiedzin w klinice Gemelli, Andrzeja Marii Deskura dzień po konklawe. W kwietniu 1979 został mianowany proprezydentem Administracji Dóbr Stolicy Apostolskiej, a w czerwcu t.r. Jan Paweł II wyniósł go na swoim pierwszym konsystorzu do godności kardynalskiej, nadając diakonię S. Maria Ausiliatrice in Via Tuscolana. Po nominacji kardynalskiej Caprio został pełnoprawnym prezydentem Administracji Patrymonium;