Życie prywatne i przekonania Rodzicami muzyka byli Arletha Gunter i Merle Allin senior. Miał starszego brata Merle’a Allina juniora, który występował wspólnie z nim jako basista m.in. w grupie The Murder Junkies, z którą gra do dziś. Merle jest również autorem pseudonimu brata, gdyż będąc małym niepoprawnie wymawiał jego pierwsze imię jako dżi-dżi. Allin był żonaty w latach 1980–1986 z Sandrą Farrow, jednak ich związek zakończyła znajomość muzyka z teksańską nastolatką Tracy Denault, która w 1986 urodziła ich córkę Nico. Jego ostatnią dziewczyną była jego nastoletnia fanka Elizabeth Mankovski, która wystąpiła z nim w programach Jerry’ego Springera i Jane Whitney.
GG uważał siebie za indywidualistę i skrajnego nonkonformistę odrzucającego wszelkie autorytety. W tekstach utworów wielokrotnie ukazywał swój negatywny stosunek do władzy, prawa, a zwłaszcza policji, do walki z którą często nakłaniały jego piosenki. Swe charakterystyczne brutalne i odrażające zachowanie na scenie uzasadniał tym, że uważając siebie za Mesjasza Rocka, uznał swoje ciało za świątynię wspólną dla wszystkich, z której wszyscy mieli czerpać garściami, a także tym, że chce w ten sposób pokazać miłość społeczeństwa do przemocy. GG wyznał, że gdyby nie był muzykiem, to najprawdopodobniej zostałby seryjnym zabójcą.