Zdaniem Che Guevary, Kabila (wtedy 26-letni) nie był odpowiednim człowiekiem dla jego planów, stąd też ostatecznie poparł on inny ruch partyzancki.
W 1965 roku z kryzysu kongijskiego wyszedł zwycięsko Mobutu, który zmienił nazwę kraju na Zair i zaprowadził dyktatorskie rządy. Działalność Kabili od połowy lat 60. do połowy 90. częściowo była owiana tajemnicą. W 1967 roku utworzył Rewolucyjną Partię Ludową, a przy wsparciu Tanzanii i Zambii rozpoczął bunt przeciwko Mobutu. Na początku lat 70. jego ugrupowanie ustanowiło w rejonie Kiwu własną marksistowską strefę. Rządy Kabili w Kiwu utrzymywały się dzięki wydobyciu złota i handlu kością słoniową. W 1977 roku przeprowadził się do Dar es Salaam skąd koordynował walkę partyzancką i zajmował się handlem złotem. W latach 80. uczestniczył w powstaniu w prowincji Shaba (ówczesna nazwa Katangi). Po jego klęsce przebywał w Zambii, Tanzanii i Rwandzie. Do ojczyzny powrócił w połowie lat 90. W 1996 stanął na czele opozycyjnej koalicji zbrojnej – Sojuszu Wyzwolenia Kongo-Zairu. Przewodził siłom opozycyjnym w I wojnie domowej w Kongu zakończonej zwycięstwem jego oddziałów. Oddziały koalicji stopniowo zdobywały kontrolę nad kolejnymi obszarami kraju, by w 1997 wkroczyć do stolicy, Kinszasy.