Kariera Konrada von Wallenrodego zaczęła się, gdy wielkim mistrzem został von Rotenstein. W 1383, po śmierci wielkiego marszałka i komtura Królewca, Kunona von Hattensteina, Wallenrode został jego następcą, stając się w ten sposób jedną z najważniejszych osób w państwie. Podstawowym zadaniem marszałka zakonu było organizowanie wypraw zbrojnych na Litwę (tzw. rejz) i z tego zadania, dzięki dużemu doświadczeniu w rzemiośle wojennym, wywiązywał się znakomicie. Od 1383 podejmował co roku wyprawy przeciw Litwie, rządzonej przez Jagiełłę.
Źródła przypisują mu również stworzenie mapy sztabowej pogranicza krzyżacko-litewskiego. Konrada von Wallenrodego uważa się także za pomysłodawcę uczt wydawanych przez krzyżaków na cześć dwunastu najbardziej zasłużonych rycerzy – gości zakonu, biorących udział w walkach z Litwinami, choć zwyczaj ten był praktykowany znacznie wcześniej. W 1387 mianowano go komturem Malborka i jednocześnie wielkim komturem Zakonu. Już wówczas zaczęto uważać Wallenrodego za sukcesora Rotensteina.