Nadburmistrz Bydgoszczy Główną jego troską jako nadburmistrza stał się rozwój gospodarczy miasta, który wiązał z włączeniem miasta do sieci Pruskiej Kolei Wschodniej. Budowa nowych szlaków kolejowych umożliwiła szerszy udział miasta w ogólnopaństwowym obrocie handlowym, stworzyła nowe miejsca pracy sprzyjające napływowi robotników z Niemiec oraz ożywiła miejscowe rzemiosło. Dobrze prosperujący rzemieślnicy stopniowo przekształcali swoje warsztaty w znaczące fabryki i firmy przemysłowe. Budowa kolei sprzyjała także dorabianiu się gospodarzy-osadników świadczących usługi transportowe, którzy zarobione pieniądze przeznaczali na zakup ziemi, powiększając posiadane już gospodarstwa rolne.
Sprawie budowy linii kolejowej poświęcił Heyne najwięcej uwagi. Przekonywał miejscowe władze regencyjne z prezydentem Hansem von Schleinitzem na czele, o celowości i konieczności podjęcia tej inwestycji. Mimo zgłaszanych przez Schleinitza wątpliwości (niepewna zyskowność tego przedsięwzięcia), starania Heynego uwieńczone zostały sukcesem i 27 lipca 1851 r. w obecności cesarza Wilhelma IV otwarło pierwszy odcinek Kolei Wschodniej z Krzyża do Bydgoszczy.