Pierwszy album zespołu, Map of the Human Soul, został wydany 24 października 2003 roku. Jednak z powodu braku popularności hip-hopu w Korei Południowej album był komercyjną porażką. Dopiero wydanie drugiego albumu, High Society, sprawiło, że grupa stała się bardziej popularna. Trzeci album Epik High, Swan Songs, pierwotnie miał być ich ostatnim albumem; jednak po wydaniu stał się numerem jeden na wielu listach przebojów i zdobył wiele nagród hip-hopowych podczas końcoworocznych gali rozdania nagród. Jeden z głównych singli z albumu, „Fly”, znalazł się na ścieżce dźwiękowej gry komputerowej FIFA 07. Ze względu na liczne oferty ponownego nagrania piosenek „Fly” i „Paris”, CD sampler został wydany w Japonii.
W 2007 roku grupa wydała swój czwarty album, Remapping the Human Soul, dzięki któremu zdołali zająć pierwsze miejsce na miesięcznym rankingu sprzedaży, sprzedając ponad 47 tys. kopii płyty w pierwszym miesiącu wydania. Album stał się trzecim najlepiej sprzedającym się albumem w Korei Południowej w 2007 roku. Jednak wiele piosenek z tego albumu zostało zablokowanych przez kilka kanałów telewizyjnych, a wiek kupowania albumów został ograniczony do 19+ ze względu na tematykę niektórych utworów, którą Ministerstwo Kultury i Turystyki w Korei Południowej uznało za nieodpowiednie dla młodszych słuchaczy.