Kiedy zespół odrzucił pierwszą ofertę Bowiego, którą była kompozycja „Suffragette City” (album The Rise and Fall of Ziggy Stardust and the Spiders from Mars), muzyk w krótkim czasie napisał „All the Young Dudes” specjalnie dla kolegów po fachu, rzekomo siedząc po turecku na podłodze pokoju przy londyńskiej Regent Street, naprzeciw wokalisty grupy – Iana Huntera.
W związku z odniesieniami do samobójstw młodych ludzi i żałobnego charakteru kompozycji, oraz przemawianiem wyimaginowanej widowni, piosenka podobna jest do ostatniej ścieżki z albumu Bowiego Ziggy Stardust – „Rock 'n' Roll Suicide”. „All the Young Dudes” opisano jako utwór, który jest dla glam rocka, tym samym co „All You Need Is Love” Beatlesów dla hippisów. Słowa dzieła Bowiego wspominają o ówczesnej gwieździe rocka T. Rex, a także o Beatlesach i Rolling Stonesach („I moi bracia są już w domu z jego Beatlesami i Stonesami. Nigdy nie odlecieliśmy na tych prochach rewolucji”).