Wersje Po raz pierwszy „Ol’ Man River” wykonana została 27 grudnia 1927 przez Jules’a Bledsoe’a w oryginalnej wersji scenicznej Show Boat. Jednak najpopularniejszą wersję piosenki wykonał Paul Robeson w filmowej adaptacji Show Boat w 1936. Wielu artystów stworzyło własne wersje utworu, w tym m.in.: Bing Crosby, Frank Sinatra, Al Jolson, Ray Charles i The Beach Boys, przez co piosenka zyskała status amerykańskiego klasyka. William Warfield zaśpiewał „Ol’ Man River” w Statku komediantów, filmowej wersji Show Boat z 1951 roku. Wykonanie to również cieszyło się sporą popularnością, a ponadto stało się najbardziej rozpoznawalnym utworem Warfielda. Gitarzysta basowy grupy The Temptations, Melvin Franklin wykonywał piosenkę na większości koncertów, a sam utwór stał się dla niego charakterystyczny. Judy Garland nagrała utwór, a także wykonała go w swoim programie telewizyjnym w 1962.
Istnieją również wersje piosenki w językach hindi, bengalskim oraz assamskim, wykonywane przez Bhupena Hazarika, który poznał Paula Robesona podczas studiów na Columbia University. Assamski tytuł utworu to „Bistirno Parore”, bengalski „Bistirno Dupare”, a wersja hindi znana jest jako „Ganga Behti Ho Kyon”.