Genezę ikony wywodzi się z portretowego malarstwa późnoantycznego. Informacje o istnieniu ikon Chrystusa, Marii, św. Piotra i Pawła oraz innych świętych znaleźć można po raz pierwszy w pismach Euzebiusza z Cezarei i Epifaniusza z Cypru w IV wieku. Przedmiotem kultu stały się ikony już w V w. (według pism św. Augustyna). Hypatiusz z Efezu wspomina po raz pierwszy o pokłonie przed ikoną w połowie VI w. Wraz z powstaniem ikon pojawił się ruch sprzeciwiający się ich kultowi – ikonoklazm.

W okresie kształtowania się sztuki chrześcijańskiej słowem „ikona” określano na chrześcijańskim Wschodzie, w krajach pozostających pod wpływami Bizancjum, wszystkie przedstawienia Chrystusa, Matki Bożej, aniołów, świętych i scen historycznych z Pisma Świętego niezależnie od tego, w jakiej technice były wykonane. W czasach nowożytnych pojęciem tym zaczęto nazywać tylko obrazy przenośne (malowane, rzeźbione, wykonane w emalii lub mozaice), niezwiązane z architekturą. Istnieją przekazy z drugiej połowy VI wieku o cudach dokonywanych przez ikony. Najstarsze zachowane ikony pochodzą z VI wieku z klasztoru św. Katarzyny na Synaju.