W okresie nazistowskim postać pielgrzyma usunięto z herbu, używano więc dawnego herbu kapitulnego w stylizowanej formie. Po powrocie Olsztyna do Polski używano ponownie pełnego herbu w wersji Otto Huppa.
Po 1960 roku zaczęto używać wzoru opracowanego przez Mariana Gumkowskiego z jego pracy Herby miast polskich, czyli samej postaci świętego Jakuba w stroju pielgrzyma – z aurolą, laską i muszlą – w niebieskich szatach na białym polu.
W 1973 r. w związku z rozbudową Olsztyńskich Zakładów Opon Samochodowych opracowano nowy herb w stylu socjalistycznym. Tarczę podzielono na dwa pola – w jednym widniał na białym polu wizerunek pielgrzyma (nazywanego wówczas wędrowcem) w niebieskiej szacie, w drugim na niebieskim polu biały stylizowany wizerunek opony lub koła zębatego z przetkniętym przez nią złotym kłosem – symbol robotniczo-rolniczego charakteru regionu.
W 1982 roku po debacie publicznej uchwalono obecnie obowiązujący herb ze świętym Jakubem w gotyckiej postawie wzorowany na najstarszej pieczęci większej miasta. Autorem przyjętej wersji graficznej jest Piotr Obarek.