W 1834 roku Seku Amadu, założyciel państwa Fulan w środkowym biegu Nigru, kazał zniszczyć sześćsetletni wówczas budynek, ponieważ uważał powstały z pałacu meczet za zbyt luksusowy i urządzony ze zbytnim przepychem. Do naszych czasów z pierwotnego budynku zachowała się jedynie część z grobami dawnych afrykańskich władców. Drugi meczet zbudowano na miejscu starego w 1896 roku, jednak był on dużo skromniejszy. Później jednak rozbudowano go, tak aby wielkością i wyglądem przypominał dawną świątynię. Budowa obecnego Wielkiego Meczetu rozpoczęła się w 1906 roku, a zakończono ją prawdopodobnie w 1907 lub 1909 roku. Dżenne było wówczas częścią Francuskiej Afryki Zachodniej i jest możliwe, że Francuzi wspierali politycznie i ekonomicznie wznoszenie meczetu i położonej obok medresy.