W maju 1775 został mianowany (od razu ze stopnia szeregowca!) generałem tzw. Rhode Island Army of Observation sformowanej w odpowiedzi na oblężenie Bostonu przez Brytyjczyków. Następnie został mianowany generałem brygady Armii Kontynentalnej przez Kongres Kontynentalny22 czerwca 1775. Waszyngton nominował Greene’a komendantem Bostonu w marcu 1776.

9 sierpnia 1776 został mianowany jednym z czterech generałów-majorów i postawiony na czele oddziałów Armii Kontynentalnej na Long Island, gdzie zbudował fortyfikacje wówczas znane jako Fort Putnam, a obecnie Fort Greene Park na wschód od Brooklynu.

Był głównym orędownikiem wycofania się z Nowego Jorku i spalenia miasta, by stało się bezużyteczne dla Brytyjczyków. 25 października 1776 przejął od generała Israela Putnama dowództwo nad umocnieniami Fortu Washington. Był niewątpliwie odpowiedzialny za utracenie tej pozycji, ale utrzymał się na stanowisku za poręczeniem Waszyngtona.