Parafia pod panowaniem pruskim Dopiero po I rozbiorze Polski wzniesiono kościół na Rynku, powstały w latach 1783–1784. Uroczystość jego poświęcenia miała miejsce 23 stycznia 1785. Kościół otrzymał imię króla Fryderyka II Wielkiego, który był głównym sponsorem prac budowlanych. Do świątyni dostawiono następnie małą wieżę z zegarem, która została tu przeniesiona z zamku w Starogardzie.
Po kasacie klasztoru benedyktynek, w 1823 kościół św. Ducha został przeznaczony na ewangelicki kościół garnizonowy. W 1841 powstało Grudziądzkie Towarzystwo Biblijne.
Kościół na Rynku okazał się jednak zbyt mały dla licznej parafii, posiadał również liczne wady konstrukcyjne. Od 1843 czyniono więc starania o budowę nowego, większego obiektu. Na skutek paniki w trakcie nabożeństwa 7 czerwca 1861, będącej efektem przeświadczenia o wybuchu pożaru, śmierć przez stratowanie poniosło 14 osób.