Na igrzyskach olimpijskich w Londynie w 1908 roku wystartował w trzech konkurencjach: 400, 1500 i 4 × 200 m stylem dowolnym. We wszystkich zdobył złoty medal, co jest najlepszym wynikiem w historii reprezentacji Wielkiej Brytanii w ilości zdobytych złotych medali na jednych igrzyskach. Brytyjskie gazety pisały o nim Największy Brytyjski Pływak Amator (Britain's Greatest Amateur Swimmer). Sukces ten udało się powtórzyć dopiero 100 lat później na igrzyskach w Pekinie, Chrisowi Hoyowi w kolarstwie.
W 1912 r. na igrzyskach w Sztokholmie pomógł zdobyć swojej drużynie brązowy medal w sztafecie 4 × 200 metrów stylem dowolnym. W 1914, na okres I wojny światowej wstąpił do Marynarki Wojennej, gdzie służył na pokładzie okrętu HMS St. Vincent.
Po wojnie powrócił do pływania. Brał udział w wielu zawodach (m.in. Morecambe Bay Race), na których osiągał wysokie pozycje. Ostatni raz na igrzyskach pojawił się w 1920 roku w Antwerpii, gdzie ponownie udało mu się zdobyć brązowy medal w sztafecie 4 × 200 metrów stylem dowolnym.
Henry Taylor zakończył karierę pływacką w 1926 roku.