Przed Queen Podczas nauki w Ealing Art College poznał Tima Staffela, a dzięki niemu w 1968 – pozostałych członków zespołu Smile, czyli Briana Maya oraz Rogera Taylora. Zespół był pod wpływem wykonawców, takich jak Jimi Hendrix, Led Zeppelin i Cream. Mercury dobrze czuł się w otoczeniu członków grupy, coraz częściej przebywał w ich towarzystwie, bywał na koncertach, doradzał im, a sam po raz pierwszy od przyjazdu do Anglii zaczął grać. Pierwszą poważną próbą wokalisty był zespół Ibex, którego członkami byli również Mike Bersin, John „Tupp” Taylor i Mick „Miffer” Smith. Debiutancki występ nowego wokalisty miał miejsce 23 sierpnia, a wśród zagranych piosenek był cover Elvisa Presleya „Jailhouse Rock”. W listopadzie 1969 zmienili nazwę na Wreckage.
W lutym 1970, po odpowiedzi na ogłoszenie prasowe i przesłuchaniu, dołączył do mało znanej grupy Sour Milk Sea (pozostali jej członkowie to Chris Dummett, Jeremy Gallop, Paul Milne i Robert Tyrell). W związku z nieporozumieniami na tle muzycznym rozpadła się ona w ciągu około dwóch miesięcy. Niewiele później, w związku z brakiem rozwoju Smile, Staffel odszedł do grupy Humpy Bong. Mercury przekonał dwóch pozostałych członków zespołu, że powinni razem kontynuować granie, dołączył do nich, zaproponował nową nazwę formacji – Queen – i stworzył jej logo.