Pierwszego pochówku na cmentarzu dokonano w czerwcu 1890 (zmarłym był Józef Kobecki, miesięczne niemowlę). Następne cztery pochówki odbyły się kolejno: w 1892 (trzyletnia dziewczynka Helena Abkowicz), w 1895 (Saduk Osipowicz Kefeli z Kaffy, jeden z fundatorów cmentarza; jego nagrobek jest najstarszym z nieanonimowych nagrobków zachowanych na terenie nekropolii), w 1898 (kupiec Saduk Kefeli) i w 1899 roku (kupiec Gelel Babadżan).
W okresie II Rzeczypospolitej społeczność karaimska Warszawy zmieniła swoje oblicze, na miejsce dawnych krymskich kupców i studentów przybywali tam Karaimi z mniej odległych gmin karaimskich w Wilnie, Trokach, Łucku i Haliczu. Mimo niewątpliwej obecności Karaimów w międzywojennej Warszawie znany jest tylko jeden pochówek z okresu międzywojennego, który odbył się w 1934 roku (pochowano pochodzącego z Łucka zmarłego tragicznie Gabriela Pileckiego). Prawdopodobnie w okresie tym spoczęły na cmentarzu jeszcze dwie bądź trzy osoby.
Nekropolia doznała zniszczeń w trakcie kampanii wrześniowej (częściowemu zniszczeniu uległy wówczas prawdopodobnie zarówno mur, jak i niektóre groby). Dewastacji dopełniło bombardowanie ulicy Wolskiej podczas powstania warszawskiego.