W międzyczasie GG angażował się w kolejne muzyczne projekty: The Texas Nazis, The Cedar Street Sluts i The Scumfucs.

The Scumfucs i The Murder Junkies Razem z zespołem The Scumfucs GG Allin wydał kilka albumów, z których największe przeboje przyniósł Eat my fuc z 1987 roku. Po trafieniu do zespołu, GG uzależnił się od alkoholu i wszelkiego rodzaju środków psychoaktywnych. Wśród fanów krążyła anegdota, że połykał on każdą tabletkę nie pytając, co bierze. Z czasem uzależnił się także od heroiny. W 1989 roku GG trafił do więzienia za gwałt i okaleczenie kobiety, wychodząc z niego w marcu 1991 roku.

Ostatni występ i śmierć Ostatni koncert Allina przypadł wraz z grupą The Murder Junkies 27 czerwca 1993 roku w nowojorskim klubie The Gas Station. Podczas koncertu w trakcie wykonywania drugiego utworu nastąpiła awaria, w której wysiadł prąd. Zezłoszczony, nagi i okaleczony GG rozpoczął demolowanie klubu i odszedł wraz z fanami, maszerując ulicami Manhattanu, robiąc zamieszanie na ulicy. Po kilku godzinach Allin trafił na domową imprezę, podczas której przedawkował heroinę i zmarł następnego dnia. Podczas zabawy nikt nie przejmował się jego losem. Co jakiś czas ktoś robił zdjęcie z jego zwłokami i dopiero rankiem imprezowicze zorientowali się, że muzyk już nie żył.