W zakonie krzyżackim Konrad VIII Młody nie poszedł śladem starszych braci. W 1416 wstąpił w szeregi zakonu krzyżackiego. Być może wpływ na tę decyzję miała namowa brata, Konrada VII Białego, który u krzyżaków uczył się rycerskiego rzemiosła i po ich stronie walczył w 1410 w bitwie pod Grunwaldem. Podczas uroczystego złożenia ślubów zakonnych na zamku w Malborku Konradowi VIII Młodemu towarzyszyli wszyscy bracia. Wówczas w zamian za pożyczkę 3000 kop groszy praskich Konrad IV Starszy, Konrad V Kącki i Konrad VII Biały zawarli z wielkim mistrzem zakonu krzyżackiego Michałem Küchmeistrem von Sternbergiem pakt skierowany przeciwko Polsce i Litwie. Zobowiązali się w nim udzielić pomocy zakonowi, gdyby ten został napadnięty przez wojska króla Polski Władysława Jagiełły lub wielkiego księcia Litwy Witolda.
W latach 1425–1429 Konrad pełnił funkcję prokuratora zakonu w Gierdawach. Następnie w latach 1429-1433 wypełniał obowiązki prokuratora zakonu w Lochstedt. Najwyższym stanowiskiem zakonnym, jakie sprawował, był urząd komtura krajowego Czech i Moraw.