Kiedy Sabarsky w 1996 zmarł, Lauder zdecydował się kontynuować zadanie utworzenia Neue Galerie New York, jako wyraz hołdu dla zmarłego przyjaciela.
Siedziba Muzeum zostało ulokowane w pałacyku zbudowanym pierwotnie dla przemysłowca Williama Starra Millera (1856–1935), budowli w stylu Ludwika XIII/Beaux-Arts, położonej na rogu 86th Street i Piątej Alei. Neue Galerie została otwarta 16 listopada 2001.
W muzeum obok pomieszczeń galerii znajduje się również księgarnia, pracownia aranżacji wnętrz i dwie wiedeńskie kawiarnie: "Café Sabarsky" i "Café Fledermaus", obie prowadzone przez restauratora Kurta Gutenbrunnera.
Kolekcja thumb|250px|Gustav Klimt, Portret Adele Bloch-Bauer I (1907). Najdroższy obraz kolekcji Neue Galerie. Zbiory Neue Galerie są podzielone na dwie sekcje. Pierwsza obejmuje dzieła sztuki i rzemiosła artystycznego pochodzące z Austrii, w tym obrazy Gustava Klimta, Oskara Kokoschki i Egona Schiele oraz przedmioty dekoracyjne pochodzące z Wiener Werkstätte, wykonane przez takich artystów jak Josef Hoffmann, Koloman Moser i Dagobert Peche. Eksponowana jest również twórczość architektów Adolfa Loosa i Otto Wagnera. Sztuka niemiecka reprezentowana jest przez XX-wieczne kierunki artystyczne, takie jak Der Blaue Reiter, Die Brücke i Bauhaus.