W 1995 został merem dziewiątej dzielnicy, a po zwycięstwie w 2001 zastąpił Raymonda Barre na stanowisku mera Lyonu. Z powodzeniem ubiegał się o reelekcję w 2008 i 2014. W 2016 otwarcie poparł konkurencyjny wobec PS ruch En Marche! Emmanuela Macrona. W maju 2017, po jego zwycięstwie w wyborach prezydenckich, objął urząd ministra stanu oraz ministra spraw wewnętrznych w nowo powołanym gabinecie Édouarda Philippe’a. Pozostał na tej funkcji również w utworzonym w czerwcu 2017 drugim rządzie tegoż premiera. W następnym miesiącu na stanowisku mera zastąpił go Georges Képénékian.
1 października 2018 złożył rezygnację z zajmowanych funkcji rządowych, nie została jednak przyjęta przez prezydenta Emmanuela Macrona. Gérard Collomb ponowił ją następnego dnia, zyskując akceptację dla tej decyzji. Jako formalny powód odejścia z rządu podał chęć ponownego ubiegania się o stanowisko mera Lyonu oraz brak możliwości łączenia stanowiska ministerialnego z urzędem w samorządzie. Formalnie odwołany został 3 października 2018. 5 listopada 2018 decyzją radnych Lyonu powrócił na urząd mera tego miasta. Zakończył urzędowanie po wyborach lokalnych w 2020.
Był masonem od 1989, członkiem loży Wielki Wschód Francji.