Historia Cmentarz został założony pomiędzy 1815 a 1821 rokiem. Pierwotnie miał mniejszą powierzchnię, jednakże w II połowie XIX wieku został powiększony o tereny przylegające od strony północnej. Cmentarz formalnie zamknięto w 1914 roku. Nadal jednak odbywały się pojedyncze pochówki w grobach rodzinnych, ostatnie miały miejsce w latach 30. XX wieku. Liczba osób pochowanych na cmentarzu pozostaje nieznana.
Kwatera prawosławna powstała najprawdopodobniej pomiędzy rokiem 1826 a 1843. Najstarszy ze znanych nagrobków prawosławnych, a w zasadzie metalowy krzyż z wypisaną datą, pochodził z 1843 roku (nie zachował się). W miejscu tym grzebano rosyjskich żołnierzy i urzędników oraz zmarłych członków ich rodzin, przede wszystkim żołnierzy Straży Pogranicznej oraz małe dzieci. Według Ireneusza Cieślika w kwaterze prawosławnej pochowano około 200–300 osób. thumb|Kwatera prawosławna thumb|Grób Francesco Nullo W maju 1863 roku na cmentarzu pogrzebano płk. Francesco Nullo – włoskiego rewolucjonistę, który ochotniczo wziął udział w powstaniu styczniowym i poległ w bitwie pod Krzykawką. W 1909 roku, z inicjatywy grupy mieszkańców Olkusza, na grobie Nullo wzniesiono pomnik w kształcie strzaskanego pnia dębu.