Życiorys mały|Gell-Mann w trakcie wykładu (2007) Gell-Mann urodził się w nowojorskiej dzielnicy Lower East Side, tradycyjnie zamieszkiwanej przez imigrantów, w żydowskiej rodzinie przybyszów z Czerniowców. Jego nazwisko jest amerykańską adaptacją rosyjskiej wymowy (, Gel’man) żydowskiego nazwiska Helman ().
Szybko okazał się zdolnym dzieckiem. Po ukończeniu z mianem prymusa najstarszej amerykańskiej prywatnej szkoły Columbia Grammar and Preparatory School, piętnastoletni Gell-Mann, kierując się młodzieńczą ciekawością i zamiłowaniem do przyrody, rozpoczął studia na Uniwersytecie Yale, które ukończył w 1948. W 1951 w Massachusetts Institute of Technology uzyskał stopień doktora fizyki. W wieku dwudziestu trzech lat Gell-Mann zaczął publikować prace dotyczące cząstek elementarnych, czym rozpoczął wielką i znamienną w skutkach rewolucję w dziedzinie fizyki.