Sposób obrazowania ma także wiele wspólnego z obrazami Francisca Goi z jego „ciemnego” okresu.
Robert Shelton – biograf Dylana – zwrócił uwagę na wielki wpływ jaki wywarł na Dylana francuski symbolista Arthur Rimbaud i wręcz udowadnia, że postać Toma Thumba jest wzorowana na postaci nazwanej właśnie tak przez Rimbauda w swoim tekście Ma Bohème. Można także wykazać wpływy tekstu Housing Project Hill Jacka Kerouca.
Nazwisko bohatera utworu zaczerpnięte zostało z bajki Braci Grimm o Tomciu Paluchu (ang. Tom Thumb)
Just Like Tom Thumb’s Blues był wykonywany w czasie prawie wszystkich tur koncertowych Dylana, chociaż czasami tylko jeden raz. Ulegał nieraz wielu zmianom i aranżacjom. Pierwsze wersje koncertowe, mające charakter lamentu, były jeszcze stosunkowo bliskie oryginałowi z albumu Highway 61 Revisited. Kompletnie zmienił ten utwór w czasie występów w grupą The Hawks/The Band pod koniec lat 1965 i w 1966 roku Kompozycja ta stała się niezwykle dynamicznym utworem przepełnionym raczej frustracją, a nie apatią i letargiem oryginału. Fragmenty tych koncertów znalazły się na filmie Eat the Document.