Na wschodzie wyspa kończy się, zasilaną wodami rzeki Peconic, zatoką Zatoką Peconic z dwoma półwyspami zamykającymi ją od północy i południa. Północny półwysep kończy się w Oyster Pond Point, południowy zaś – dłuższy o około 32 km – zakończony jest w Montauk Point. Od północy wyspę oddziela od kontynentu estuarium Long Island Sound, duża zaś część południowego brzegu wyspy oblewana jest wodami zatoki , przez którą sąsiaduje z wyspami barierowymi – w tym największą z nich, Fire Island – oddzielającymi południową stronę Long Island od otwartego Atlantyku. Od strony zachodniej, Long Island zamykana jest przez The Narrows i New York Bay oraz oddzielającą ją od Manhattanu East River, częściowo zaś przez Long Island Sound.
Szerokość wyspy jest zmienna – od The Narrows na zachodnim krańcu wyspy, na dystansie 145 km w kierunku zachodnim waha się pomiędzy 19 a 32 km, rozszerzając się w odległości około 64 km od Brooklynu w kierunku Zatoki Peconic, po czym szerokość wyspy zmniejsza się. Łączna powierzchnia wyspy wynosi 3630 km²