Taka lokalizacja jest tłumaczona jej podwójną rolą – kościoła farnego dla miasta oraz kaplicy dla zamku.
Pierwszą świątynią w miejscu dzisiejszego prezbiterium była wybudowana na przełomie XIII i XIV wieku drewniana kaplica zamkowa. Kaplica ta w pocz. XIV wieku została kościołem parafialnym miasta (parafia została erygowana w 1313 lub 1315). Na placyku Kanonie za kościołem urządzono cmentarz. Z 1321 pochodzi wzmianka o Gunterze, plebanie (proboszczu) warszawskim, a w 1338 na drzwiach świątyni przybito pozew przeciwko Zakonowi Krzyżackiemu. Podczas procesu warszawskiego w 1339 w świątyni oraz w domu wójta na Rynku Starego Miasta zasiadał sąd.
Około 1390 z inicjatywy księcia Janusza I Starszego powstała gotycka budowla murowana. Kościół stał się także miejscem pochówku książąt mazowieckich.
W 1406 kościół farny stał się kolegiatą (kapituła na polecenie Janusza I Starszego przybyła z Czerska).