Historia Okolice miasta były gęsto zasiedlone przez górników już około 1200. Pierwsza pisemna wzmianka o Rożniawie znajduje się w dokumencie z 1291 r., wystawionym przez króla Andrzeja III biskupowi ostrzyhomskiemu Ladomérowi. Nazwa miejscowości wywodzi się od nazwy wyjątkowo bogatej w surowce kopalni, zwanej Rosnoubana (węg. Rozsnyóbánya, niem. Rosenau). W 1304 r. istniał tu już kościół parafialny w miejscu, w którym stoi dzisiejsza katedra. Około 1340 r. osada nabrała charakteru miejskiego. W 1382 r. Rożniawa otrzymała od króla Ludwika I prawa miejskie, a w 1410 – uprzywilejowany status wolnego królewskiego miasta górniczego. Od 1487 r. miasto było członkiem związku wschodniosłowackich miast górniczych – Heptapolitany. W 1776 w Rożniawie erygowano biskupstwo rzymskokatolickie (Diecezja rożniawska).
W średniowieczu Rożniawa była miastem górniczym. W mieście i jego okolicach wydobywano złoto, srebro i miedź. Wiele pierwszych domów w otoczeniu dzisiejszego rynku postawiono wprost na wylotach dawnych sztolni i szybów wydobywczych.