Wystawny i awanturniczy tryb życia oraz liczne podróże (głównie na dwór w Brukseli) były niezwykle kosztowne. Edward zdobywał finanse wszelkimi możliwymi sposobami, nie dbając zupełnie o stan swego księstwa. Było ono zadłużone do tego stopnia, że miało być zajęte w sekwestr; ostatecznie przejął je kuzyn Edwarda, margrabia Badenii-Durlach Ernest Fryderyk. Edwardowi pozostały jedynie dobra położone na lewym brzegu Renu, jego rezydencją był Kastellaun. Wściekły, podjął próbę zabójstwa swego kuzyna, jednak nieudaną. Z uwagi na zły stan finansów imał się nawet fałszowania pieniędzy. Nadal prowadził niespokojne, awanturnicze życie, m.in. brał udział po stronie Zygmunta III Wazy w walkach w Szwecji przeciwko Karolowi IX Sudermańskiemu.
Rodzina Żoną Edwarda Fortunata była Maria (ur. ok. 1560 r., zm. w 1636 r.), córka Jobsta van der Eicken, gubernatora Bredy, dwórka na dworze w Brukseli. Potajemny ślub zawarli w Brukseli 13 marca 1591 r., fakt ten został ujawnił po dwóch latach, po uzyskaniu papieskiego potwierdzenia.