Il étudie ensuite en Droit à l'université du Maine et obtient une maîtrise de droit public en 1976. Il intègre l'année suivante un DEA de droit public ainsi qu'un DEA en sciences politiques, à l'université René Descartes. Ayant la volonté de percer dans le milieu du journalisme, il effectuera pendant quelques années des stages à l'
AFP (Agence Française de Presse). Mais c'est finalement à la politique que l'homme se rallie lorsqu'en 1976 le député de la Sarthe, Joël Le Theule, l'embauche comme assistant parlementaire. Après le décès de celui-ci, François Fillon sera élu député puis conseiller général en 1981. De 1993 à 1995, il sera Ministre de l'enseignement supérieur et de la recherche. Puis en 2002, sous la présidence de
Jacques Chirac, il sera élu Ministre des affaires sociales sous les deux premiers
gouvernements Raffarin. Il travaille alors sur la réforme des retraites, celle qui serait appelée Réforme Fillon. Malgré une critique de la part des Français, François Fillon ira jusqu'au bout de sa tâche. Il entame également son travail sur la réforme des 35 heures. En mars 2004, il sera nommé Ministre de l'
éducation nationale.