Ayrault geeft sinds 1973 les in de taal van Goethe, Maan en Kafka. In 1969-1970 bracht hij een semester door als student aan de universiteit van Würzburg, de barokstad in het harrt van Franken. 

Daarnaast heeft hij een loopbaan gekozen in de regionale politiek. Zo was hij tussen 1977 en 1989 burgemeester van Saint-Herblain in de regio Loire-Atlantique. Daar viel hij meteen op, want zijn eerste verkiezingsoverwinning maakte hem destijds de jongste burgemeester van een grotere plaats in heel Frankrijk. 

In het jaar van de val van de Muur in Berlijn verhuisde Ayrault naar een veel grotere gemeente. Hij werd burgemeester van de stad Nantes in diezelfde streek. Als burgervader viel hij op door grote activiteit op twee priooritaire gebiden: het culturele profiel van zijn stad en stedelijke vernieuwing. Zo introduceerde hij nieuwe vormen van openbaar vervoer en een 'witte fietsen plan'.

Sindsdien heeft hij alle topfuncties in de Loire-Atlantiqueregio bekleed en is ook vertegenwoordiger daarvan in de Nationale Assemblee. In dit parlement in Parijs werd hij in 1997 bovendien fractieleider van de 'groupe Socialiste, radical, citoyen et divers gauche'. Deze functie heeft hij vervuld totdat de nieuwe president hem gisteren direct beoemde tot premier.