Miasto utrzymało swoje duże znaczenie także w okresie XII dynastii i później, kiedy to straciło wpływy polityczne na rzecz rosnących w siłę Teb (o których mówiono „Heliopolis Południa”). Niemniej pozostało jednym z najważniejszych ośrodków kultowych starożytnego Egiptu, aż do zdobycia miasta przez Aleksandra Wielkiego w 332 p.n.e. Wcześniej, duże spustoszenia w mieście poczynili perscy najeźdźcy, co opisał Strabon. Nowi, greccy władcy skupili się na wznoszeniu nowej stolicy – Aleksandrii – i budowaniu świątyń nowych bogów. Stary ośrodek kultu Re-Horachte zaczął podupadać. Po 250 p.n.e. rozpoczęło się wywożenie z Heliopolis obelisków i posągów – na podstawie inskrypcji można stwierdzić, że większość sfinksów ustawionych na hellenistycznych i rzymskich nekropolach Aleksandrii pochodzi właśnie z Heliopolis. W okresie panowania rzymskiego zabytki stąd zaczęły trafiać również do Rzymu. Dzieła zniszczenia dopełnił szybko rozbudowujący się Kair, ruiny świątyń zaczęto rozbierać w celu pozyskania cennego budulca dla rozrastającego się miasta.