Il en devient le secrétaire général en 1955, il a 27 ans. Son militantisme revêt aussi la forme du bénévolat associatif, avec la Fédération Léo-Lagrange, du nom du jeune député mort au combat en 1940. Il en est le premier secrétaire général, avant d'en devenir le président pour de longues années. Il est à peine âgé de trente et il possède déjà une solide expérience de militant et un bel appétit de pouvoir. En 1966 il devient secrétaire général de la SFIO et enchaîne les postes de responsabilité. En 1971, alors qu'il se destinait à
devenir député maire du Cateau-Cambrésis, il est appelé par Augustin Laurent, maire de Lille, pour devenir son dauphin. Le 8 janvier 1973, Pierre Mauroy, premier adjoint, devient maire de
Lille, après la démission d'Augustin Laurent. C'est le début d'un règne sur la ville qui a duré vingt huit ans, car il n'a cédé les clefs du beffroi à
Martine Aubry, l'actuel maire de Lille, qu'en 2001. Deux mois plus tard, il est élu député du département du Nord. Un an plus tard, il est élu président du conseil régional du Nord-Pas-de-Calais. Avec la puissante fédération socialiste de la région, Pierre Mauroy est l'homme fort du Nord.