Produkcja i nagrywanie W 1975, Patti Smith i jej zespół byli ulubieńcami nowojorskiej undergroundowej sceny muzycznej, razem z takimi zespołami jak Blondie i the Ramones. Zespół zwrócił na siebie uwagę Clive’a Davisa, szefa nowej wytwórni muzycznej Arista. Smith ostatecznie podpisała kontrakt z wytwórnią. Nagrywanie debiutanckiego albumu Horses rozpoczęło się później tego roku, z zespołem w składzie: Jay Dee Daugherty (perkusja), Lenny Kaye (gitara), Ivan Kral (gitara basowa) i Richard Sohl (keyboard). Smith zadecydowała, że producentem płyty zostanie walijski muzyk John Cale z zespołu The Velvet Underground, po usłyszeniu jego solowego krążka Fear.
Według artystki, Horses było próbą „stworzenia nagrania, które spowodowałoby, że niektóre osoby nie czułyby się już samotne. Było to stworzone dla takich ludzi, którzy byli jak ja, inni… Moim celem nie był cały świat. Nie starałam się stworzyć hitu”. Sesje nagraniowe do albumu często prowadziły do sporów między Smith a Johnem Cale'm, ponieważ każde z nich przyzwyczajone było do różnych metod współpracy w studiu. W trakcie ukończenia nagrań Smith i jej zespół odrzucali całkowicie sugestie Cale’a co do ostatecznej formy płyty, wprowadzając swoje własne.