Chodził do szkoły, jednak nie ukończył żadnej. Rzucił szkołę, ponieważ chciał pójść do pracy, żeby wesprzeć domowy budżet. Jako dziecko podejmował się różnych prac, jedną z nich była praktyka u ślusarza, co wyjaśniałoby, w jaki sposób nauczył się otwierać zamki bez używania klucza. Zadebiutował publicznie w wieku dziewięciu lat pokazem występów na trapezie, każąc się nazywać „Ehrich, książę powietrza”. Oficjalnie zmienił nazwisko na Harry Houdini w 1913.
Kariera thumb|Sztuczka ze znikającym słoniem W 1891 rozpoczął karierę jako profesjonalny iluzjonista i zaczął używać nazwiska Harry Houdini z powodu podobieństwa nazwiska do znanego francuskiego iluzjonisty Jeana Eugène’a Robert-Houdina, co doradził mu przyjaciel, twierdząc, że w języku francuskim dodanie „i” do nazwiska Houdin da w efekcie znaczenie „będący jak Houdin”. Na początku kariera iluzjonisty nie przyniosła mu wielkiego sukcesu, dopóki nie poznał artystki Wilhelminy Beatrice „Bess” Rahner w 1893, którą poślubił po trzech tygodniach znajomości. Przez całą jego dalszą karierę „Bess” pracowała jako jego sceniczna asystentka. Nie mieli dzieci przez cały okres trwania małżeństwa.