Bank Japonii ma oddziały we wszystkich większych miastach Japonii, a także przedstawicielstwa zagraniczne w największych centrach finansowych świata: w Londynie, Paryżu, Frankfurcie, Nowym Jorku, Waszyngtonie, Hongkongu i Pekinie.
Władze Władze Banku Japonii składają się z prezesa, dwóch zastępców, do trzech audytorów wykonawczych, do sześciu dyrektorów wykonawczych oraz kilku radców. Prezes i wiceprezesi są powoływani na pięcioletnią kadencję przez rząd, przy akceptacji obu izb parlamentu. Rząd powołuje także audytorów wykonawczych (czteroletnia kadencja).
Pozostałych członków rady wykonawczej wyznacza minister finansów na wniosek Rady Politycznej (odpowiednik polskiej Rady Polityki Pieniężnej). W skład Rady Politycznej wchodzą: prezes i wiceprezesi Banku oraz sześciu szeregowych członków. Rada wybiera swojego przewodniczącego (nie musi być nim prezes banku).
Prezes (総裁 sōsai) Banku Japonii ma znaczny wpływ na politykę gospodarczą japońskiego rządu.