9 grudnia 1901 Schlegelberger zdał państwowy egzamin prawniczy z oceną dobrą. 21 grudnia 1901 został asesorem w sądzie rejonowym w Królewcu, a 17 marca 1902 – sędzią pomocniczym w sądzie okręgowym w Królewcu. 16 września 1904 roku uzyskał posadę sędziego w Sądzie Okręgowym w Lyck (obecnie Ełk). Na początku maja 1908 roku przeniósł się do Sądu Okręgowego w Berlinie i jeszcze w tym samym roku uzyskał nominację na sędziego pomocniczego w berlińskim sądzie apelacyjnym (Kammergericht). W roku 1914 wstąpił do Rady Sądu Apelacyjnego w Berlinie (Kammergerichtsrat), w której uczestniczył do roku 1918.
1 kwietnia 1918 roku Schlegelberger rozpoczął współpracę z Ministerstwem Sprawiedliwości Rzeszy. 1 października tego samego roku przyjęto go do Tajnego Sądu Rządowego i Rady Wykonawczej. W roku 1927 został dyrektorem ministerialnym w Ministerstwie Sprawiedliwości Rzeszy.
Od roku 1922 Schlegelberger wykładał prawo na Uniwersytecie w Berlinie i był profesorem honorowym tej uczelni.
10 października 1931 roku Schlegelberger uzyskał stanowisko sekretarza stanu w Ministerstwie Sprawiedliwości Rzeszy, podległym Franzowi Gürtnerowi i utrzymał tę posadę aż do śmierci Gürtnera w roku 1941.