Przejęcie władzy Mimo iż nikt nie wróżył mu kariery, wkrótce zaczął odgrywać bardziej istotną rolę w rodzinie. W momencie, gdy John i Gene Gotti trafili do więzienia, Peter zaczął przekazywać informacje od przywódców dla reszty rodziny. W 1999 roku bratanek i jednocześnie boss Petera, John A. Gotti został aresztowany i trafił do więzienia, co zaowocowało przejęciem władzy w rodzinie przez Petera. Do pomocy zostali mu wyznaczeni caporegime Nicholas "Little Nick" Corozzo, były rywal Johna Gottiego i John "Jackie Nose" D'Amico, wieloletni współpracownik Gottiego. Trzej gangsterzy utworzyli tzw. „Komitet”, który nadzorował wszystkie operacje prowadzone przez rodzinę. W 2002 po śmierci Johna Gottiego, Peter stał się oficjalnym bossem rodziny Gambino.
Wyrok i więzienie W czerwcu 2002, kilka dni przed śmiercią Johna Gottiego, Peter został oskarżony o wymuszanie haraczy. Podczas procesu, prokuratorzy ujawnili, że Peter miał romans z Marjorie Alexander. Alexander oficjalnie zadeklarowała, że jest związana z Peterem. W rezultacie Peter skrytykował swoją dziewczynę, iż niepotrzebnie zwraca na nich uwagę, po czym zerwał z nią kontakt. Jakiś czas po tym zdarzeniu, Marjorie popełniła samobójstwo. W tym czasie żona Petera, Catherine Gotti założyła sprawę o rozwód.