W kwietniu 1994 właściciele postanowili zmienić i uprościć nazwę portalu. Według oficjalnej wersji, podczas wertowania słownika natrafili na słowo Yahoo. Nazwa pochodzi od stworzeń przedstawionych w powieści „Podróże Guliwera” Jonathana Swifta. W książce nazwano je odrażającymi obrzydliwymi humanoidalnymi stworzeniami – „skoncentrowanym obrazem ludzkiej natury, nie uszlachetnionym przez duchowość”. Założyciele firmy nalegają na tę wersję. W oficjalnych materiałach firmy pojawia się też inna wersja: Yahoo! to skrót od słów Yet Another Hierarchical Officious Oracle.
18 stycznia 1995 roku została zarejestrowana domena yahoo.com, a 2 marca powstała firma Yahoo z siedzibą w Sunnyvale, w Dolinie Krzemowej, w Kalifornii. W sierpniu 1995 roku na portalu pojawiła się funkcja wyszukiwania Yahoo Search i możliwość zamieszczania reklam.
12 kwietnia 1996 roku Yahoo! zadebiutowało na giełdzie. 1 lutego 2008 przedsiębiorstwo Microsoft złożyło ofertę zakupu Yahoo! za 31 dolarów za udział, lub 44,6 miliardów do wszystkich akcji. Zarząd Yahoo! odrzucił ofertę 11 lutego, twierdząc że oferta jest zbyt niska. 3 maja 2008 Microsoft wycofał swoją ofertę. 13 czerwca 2008 spółka nawiązała współpracę z przedsiębiorstwem Google. Współpraca dotyczy sprzedaży reklam na stronach Yahoo!.