Jego pierwszym wyróżnieniem było stanowisko kapitana okrętu flagowego Pieta Heyna podczas walki z piratami z Ostendy w 1629, podczas których zginął Heyn. Od tego czasu jego okręt nazywał się Vliegende Groene Draeck. Tromp, po kilku latach przerwy, powrócił do służby w marynarce wojennej i awansował z kapitana na admirała-porucznika Zachodniej Fryzji w 1637, w czasie, gdy admirał-porucznik Philips van Dorp i inni wysocy oficerowie zostali usunięci ze służby z powodu swojej niekompetencji.
Chociaż formalnie podlegał admirałowi (ang. Admiral-General) Fryderykowi Henrykowi Orańskiemu, w rzeczywistości był naczelnym wodzem połączonej floty holenderskiej, gdyż stadhouder nie miał pojęcia o walce na morzu. Tromp przez większość czasu zajęty był blokowaniem pirackiego portu Dunkierki. W 1639 w ramach walki Holandii o niezależność od Hiszpanii, Tromp pobił wielką flotę hiszpańską zbudowaną we Flandrii i mającą ostatecznie zdławić holenderski opór, w bitwie na płyciźnie Downs, kończąc potęgę hiszpańskiej floty wojennej. Na wstępie bitwy pod Dunkierką z 18 sierpnia 1639 Tromp był pierwszym znanym dowódcą floty, który zastosował na morzu taktykę liniową.