Był wybitnym tłumaczem – na estoński przełożył utwory takich twórców jak Szekspir, Jesienin, Heine, Balzac, Carroll. Debiutował w 1958 tomem poezji Uszlachetniacz węgla (Söerikastaja). Znany jest jednak głównie dzięki swym powieściom historycznym, tłumaczonym na wiele języków: m.in. na angielski, fiński, szwedzki, niemiecki, rosyjski, łotewski i na język polski. W latach 1968–1995 opublikował także sześć tomów esejów i przemówień.

Jego książki rozgrywają się w różnych epokach i wiekach, ale zawsze w ważnych momentach estońskiej historii (bohaterem jest np. lingwista i przyrodnik pastor Otto Wilhelm Masing, albo młody poeta Kristjan Jaak Peterson).

Pisarz ukazuje w nich wielowiekowy wpływ niemieckiej i rosyjskiej ekspansji na kulturę swego kraju. Bohaterami powieści Krossa są autentyczne postaci historyczne, wokół nich pisarz snuje fabułę swych utworów, częściowo opierając się na rzeczywistych wydarzeniach. Częstym zabiegiem stylistycznym stosowanym przez Krossa jest monolog wewnętrzny bohatera powieści, a także umiejętne wykorzystywanie wątków autobiograficznych.

W 1992, po odzyskaniu przez Estonię niepodległości, został posłem w parlamencie i jako najstarszy z deputowanych odczytał tekst zaprzysiężenia.