W kolejnej walce, jedynej w 2002, Rahman zmierzył się z Evanderem Holyfieldem. Była to walka eliminacyjna przed pojedynkiem o mistrzostwo świata organizacji WBA. Pojedynek skończył się techniczną decyzją na niekorzyść Rahmana po tym, jak sędzia przerwał walkę w związku z pojawieniem się na jego czole, w wyniku zderzenia głowami, nienaturalnie dużego guza (wielkości piłki tenisowej).

Następny rok to dwie kolejne nieudane walki – remis w drugim pojedynku z Davidem Tuą oraz porażka na punkty z Johnem Ruizem w walce o pas mistrzowski organizacji WBA.

Kilka kolejnych pojedynków to zwycięstwa nad mniej klasowymi pięściarzami. Jednak w listopadzie 2004 wygrał przez techniczny nokaut w czwartej rundzie z Kali Meehanem. Była to walka eliminacyjna organizacji IBF, WBA i WBC.

Po tej walce organizacja WBC nakazała swojemu mistrzowi, Witalijowi Kłyczce, stoczenie pojedynku mistrzowskiego właśnie z Rahmanem. Pierwotnie walka zaplanowana była na kwiecień 2005, jednak z powodu przewlekłych kontuzji Ukraińca była trzy razy przekładana.