XX wieku głośnym echem odbijały się jego dotyczące kwestii religijnych i światopoglądowych polemiki z Henrym Louisem Menckenem toczone zarówno na łamach prasy, jak i na gruncie towarzyskim.
Prywatnymi hobby Kelly’ego były botanika, pisanie biografii medycznych i kolekcjonowanie węży. Był współautorem pracy o wężach stanu Maryland (Snakes of Maryland. The Natural History Society of Maryland, 1936).
Nagrody i upamiętnienia Howard Atwood Kelly był doktorem honoris causa uniwersytetów Aberdeen (1906), Washington i Lee (1906), Pensylwanii (1907) oraz Johns Hopkins (1939). W roku 1943 imię „Howard A. Kelly” nadano jednemu ze statków typu Liberty. Nazwisko Kelly’ego upamiętniają też eponimy: Kleszczyki Kelly’ego – narzędzie chirurgiczne Objaw Kelly’ego – wężowate skurcze moczowodu po jego dotknięciu narzędziem chirurgicznym; znajomość objawu ułatwia orientację w polu operacyjnym Szew Kelly’ego – zabieg wykonywany na szyi pęcherza moczowego w przypadkach nietrzymania moczu Wziernik Kelly’ego – rodzaj wziernika odbytniczego