Pomiędzy 21 maja 1981 a 17 lipca 1984 był premierem trzech kolejnych gabinetów. Mianowany na to stanowisko został przez François Mitterranda, nowo wybranego prezydenta. W okresie jego urzędowania we Francji zniesiono karę śmierci, państwową kontrolę środków przekazu i ograniczenia działalności lokalnych stacji radiowych. Skrócił tydzień pracy do 39 godzin, wprowadził dodatkowy piąty tydzień płatnego urlopu i refundację zabiegów przerwania ciąży. Przeprowadził nacjonalizację licznych zakładów przemysłowych. Rosnąca niepopularność jego rządu spowodowała zastąpienie go na stanowisku premiera przez Laurenta Fabiusa.
W 1988 Pierre Mauroy został pierwszym sekretarzem (przewodniczącym) Partii Socjalistycznej. Stanowisko to zajmował przez trzy lata. W latach 1992–1999 był przewodniczącym Międzynarodówki Socjalistycznej. W 1992 po raz pierwszy zasiadł w Senacie, mandat senatora na dziewięcioletnią kadencję odnowił też w 2001.
Odznaczenia Legia Honorowa II klasy (2008) Order Narodowy Zasługi I klasy (1981)