W pierwszych planach Wish You Were Here miało zawierać trzy utwory, które zespół grał przez ostatnie dwa lata na koncertach: „Shine On”, „Gotta Be Crazy” i „Raving and Drooling”. „Shine On” przetrwało jako „Shine On You Crazy Diamond”, lecz Roger Waters postanowił nie nagrywać jeszcze pozostałych dwóch, które doczekały się zarejestrowania w studio pod nazwami „Dogs” i „Sheep” na albumie Animals. Ich miejsce Waters zastąpił utworami opisującymi obecny stan zespołu (utwór tytułowy) i karykaturującymi negatywne strony świata muzycznego („Welcome to the Machine” oraz „Have a Cigar”).
Podczas tworzenia albumu napięcie w zespole widocznie rosło. Poprzednia płyta, Dark Side of the Moon okazała się ogromnym sukcesem, wynosząc Pink Floyd w centrum uwagi świata muzycznego. Członkowie zespołu byli zaniepokojeni tak wysoko postawioną poprzeczką, zastanawiali się czy kiedykolwiek jeszcze nagrają równie dobry album. Zdenerwowany Waters wzmocnił swój nacisk na twórczość zespołu, co w połączeniu z jego narastającą presją i wrogością doprowadziło do rozłamu w zespole. Wish You Were Here okazał się ostatnim albumem, na którym w komponowaniu brał udział Richard Wright (do czasu The Division Bell z 1994) i właściwie ostatnim, podczas nagrywania którego cały zespół brał aktywny udział w jego tworzeniu.