Historia Elista została założona w 1865 roku, jako niewielka osada w prowincji Astrachań. Nazwa Elista to hydronim pobliskiej rzeki, której nazwa w miejscowym języku oznacza piasek lub wytrwały. W 1927 r. na bazie istniejącej wsi zbudowano osadę, która w 1930 roku uzyskała prawa miejskie.
Elista od 1924 roku była stolicą obwodu autonomicznego, następnie Kałmuckiej Autonomicznej SRR (socjalistycznej republiki w składzie ZSRR), a od 1991 r. Republiki Kałmucji.
W czasie II wojny światowej, 13 sierpnia 1942 r. Elista została zdobyta przez armię niemiecką (Grupa Armii A). Ponieważ niemiecka ofensywa na południowym odcinku frontu wschodniego w grudniu 1942 r. się załamała, miasto w styczniu 1943 zostało opuszczone przez Grupę Armii Hoth i 4 Armię Pancerną, a następnie jednostki stopniowo wycofywały się na zachód.
Podczas okupacji hitlerowskiej, Niemcy utworzyli getto dla żydowskich mieszkańców. Przebywało w nim około 500 osób. 9 września 1942 roku Niemcy zlikwidowali getto, a Żydów zamordowali. Sprawcami zbrodni było Sonderkommando Astrachań.