8 kwietnia 1808 Stolica Apostolska podniosła diecezję Baltimore do rangi archidiecezji i wyodrębniła diecezje Filadelfii, Bostonu, Nowego Jorku i Bardstown. W chwili ustanowienia, diecezja nowojorska obejmowała stan Nowy Jork i hrabstwa w stanie New Jersey: Sussex, Bergen, Morris, Essex, Somerset, Middlesex, i Monmouth.
W związku z tym, że pierwszy mianowany biskup nie mógł odpłynąć z Włoch, ze względu na blokadę napoleońską, administratorem został mianowany ks. Kohlman. Przypisuje mu się zorganizowanie diecezji i przygotowanie do budowy katedry św. Patryka przy Mulberry St. Wśród trudności na jakie w tym czasie napotykali katolicy był antykatolicki fanatyzm w szkolnictwie Nowego Jorku. Silne ruchy natywistyczne starały się trzymać katolików z dala od kraju i zapobiegać ich rozwojowi.
23 kwietnia 1847 z terytorium diecezji wyodrębniono diecezje Albany i Buffalo, a 19 lipca 1850 diecezja została podniesiona do rangi archidiecezji.