Od wczesnego średniowiecza kluczową rolę w handlu na wybrzeżu odgrywali kupcy arabscy, którzy przyczynili się do trwałego zakorzenienia się islamu w regionie. Eksport obejmował m.in. kość słoniową, rogi nosorożców, cenne gatunki drewna, szylkret, rudy metali oraz złoto. Handel niewolnikami istniał, lecz nie stanowił początkowo jego głównego elementu; masową skalę osiągnął dopiero w epoce europejskiej ekspansji kolonialnej.
Do końca XV wieku na wybrzeżu Tanzanii funkcjonowało wiele rozwiniętych miast-państw o złożonej kulturze, w której silne były wpływy arabskie. Najważniejszym z nich była Kilwa, położona na niewielkiej wyspie u południowego wybrzeża kraju. W okresie świetności mogła liczyć od 10 do 20 tysięcy mieszkańców. W XIV wieku miasto opisał podróżnik Ibn Battuta, a jego monumentalne ruiny zachowały się do czasów współczesnych.