Wydania Pierwotnie "Silent All These Years" miał być stroną B singla "Me and a Gun". Utwór poprzedni nie mógł zostać wydany jako samodzielny singiel dlatego wytwórnia zdecydowała się na wydanie singla "Silent All These Years". W Wielkiej Brytanii został wydany jako drugi singiel w listopadzie 1991 roku (w sierpniu 1992 został wydany raz jeszcze jako szósty i ostatni singiel). Na singlach 12-calowym i na kompakcie utworami na stronie B były utwory "Upside Down", "Thoughts" i "Me and a Gun", a na 7-calowym singlu stroną B był utwór "Me and a Gun".
Reedycja maxisingla w roku 1992 zawierała utwory: "Ode to the Banana King (Part One)", "Song for Eric" i koncertową wersję "Happy Phantom". Z kolei reedycja singla 7-calowego i na kasecie magnetofonowej zawierała cover utworu "Smells Like Teen Spirit" z repertuaru Nirvany.
W Stanach Zjednoczonych "Silent All The Years" zostało wydane na kasecie magnetofonowej jako pierwszy singiel, po albumie zespołu Y Kant Tori Read, w kwietniu 1992. Jego stroną B była piosenka "Upside Down". Został ponownie wydany 4 marca 1997 r.