Historia thumb|Herb miasta sprzed 1926, ozdobiony dodatkowymi elementami Pelhřimov używał podobnej pieczęci z herbem miejskim już w XIV wieku - w bramie między dwoma wieżami stał pątnik (pielgrzym), nad bramą znajdował się herb arcybiskupstwa z elementami herbów niektórych biskupów (te znikły w XV wieku). W 1675 roku cesarz Leopold I dodał do herbu symbole cesarskie, m.in. cesarskiego czarnego, dwugłowego orła. Orzeł ten posiadał na swojej piersi tarczę z herbem Czech (jednak lew był zwrócony w lewo, odwrotnie niż dzisiaj), a w szponach trzymał tarczę herbową arcyksięstwa Austrii. W tym herbie brak już było także symboli arcybiskupstwa. Na poszczególnych przedstawieniach niektóre elementy różniły się, zwłaszcza kolorami - drzwi bramy były brązowe, pielgrzym ubrany był cały na czarno, brak było trawnika.

2 kwietnia 1926 roku Ministerstwo Spraw Wewnętrznych Czechosłowacji nakazało zmianę herbu - usunięto symbole habsburskie, w miejsce wprowadzono mały herb Czechosłowacji. Oficjalnie uchwalono zmianę herbu 2 czerwca;