leżał on wtedy na wschód od Heidenwall (ówczesnych drewniano-ziemnych obwałowań miejskich). W 1260 po rozbudowie obwarowań kościół św. Jakuba leżał już wewnątrz nich. Nic bliższego nie wiadomo na temat samego kościoła.
W XIV w. podjęto jego budowę na nowo. Pomiędzy 1350 a ok. 1400 wzniesiono trójnawowy, kościół halowy w stylu gotyckim, podobny do leżącego w pobliżu kościoła św. Piotra. W 1438 dobudowano od wschodu zakrystię, będącą dzisiaj jedynym przykładem świeckiej architektury tamtych czasów w Hamburgu. W latach 1493–1508 wybudowano w kościele od strony południowej dodatkową, czwartą nawę. Była ona niższa pod pozostałych naw, nakryta została jednak wspólnym z nimi dachem. Ówczesna wieża kościelna składała się z pięciu kondygnacji i była zwieńczona nie hełmem, jak dzisiaj, lecz podwójnym, równoległym dachem dwuspadowym. Dopiero między 1587 a 1590 zwieńczono wieżę późnogotyckim w formie, hełmem, podobnym do tego z pobliskiej, nieistniejącej dzisiaj, kaplicy św. Gertrudy.