Leonard Nelson uczęszczał do francuskiego gimnazjum w Berlinie, gdzie w marcu 1901 roku uzyskał maturę. Studia podjął na Uniwersytecie Ruprechta-Karola w Heidelbergu w zakresie filozofii, prawa, nauk przyrodniczych i nauk o literaturze. Uczęszczał na zajęcia matematyka Leo Koenigsbergera, filozofa Kuno Fischera i logika Paula Hensela. W roku 1901 przeniósł się na Uniwersytet Humboldtów w Berlinie, gdzie pozostał aż do semestru letniego 1903 roku, aby następnie przenieść się do Getyngi na Uniwersytet Georga Augusta. Tutaj uzyskał pod skrzydłami Juliusa Baumanna doktorat w 1904 roku na podstawie pracy pod tytułem Jakob Friedrich Fries und seine jüngsten Kritiker i napotkał trudności w swej akademickiej karierze przede wszystkim ze strony Edmunda Husserla. Mimo to w 1908 roku wraz Kurtem Grellingiem sformułował antynomię Grellinga-Nelsona, wersji antynomii Russella. W 1909 roku dzięki wsparciu matematyka Davida Hilberta uzyskał habilitację.