Entraineur du milan A.CIl débute sa nouvelle carrière dès la saison suivante à l'Aglianese en Serie C2, durant l'année 2003-2004. Il passe la saison suivante à SPAL Ferrare dans la catégorie supérieure, puis de 2005 à 2007 à l'US Grosseto FC en 3e division. Durant la saison 2006-2007, il sera remercié après neuf journées après un rendement médiocre. L'équipe obtiendra sans lui la promotion en Serie B à la fin de la saison.
Il est alors embauché en Serie C1, la 3e division, par l'US Sassuolo pour la saison 2007-2008. Il obtient pour le club une première promotion historique en Serie B, obtenant au passage le prix du meilleur entraineur de Serie C1. Il quitte alors le club et signe un contrat d'un an en Serie A, au Cagliari Calcio, club dont il avait porté le maillot durant deux saisons.
Ses premiers pas d'entraîneur en Serie A sont pour le moins compliqué : ses cinq premiers matches se soldent par autant de défaites et la dernière place. Le président Massimo Cellino réitère néanmoins sa confiance en l'entraîneur. Commence alors une remontée fantastique de l'équipe sarde, complètement transformée, qui récupère 34 points en 17 matches, et rejoint la première partie de tableau. À la 2e journée de la phase retour du championnat, le Cagliari Calcio est remonté à la 7e place, avec des victoires de prestiges à l'extérieur, notamment contre la SS Lazio (4-1) et la Juventus FC (3-2).
La suite du championnat est moins spectaculaire mais le Cagliari Calcio obtient très vite le nombre de points suffisants pour s'assurer le maintien, objectif déclaré du début de saison. L'équipe terminera la saison à la neuvième place de la Serie A, à 10 points de l'Europe, mais devant des équipes plus prestigieuses comme la SS Lazio ou encore le SSC Naples. Cette saison surprenante fera de Massimiliano Allegri l'une des cibles de nombreuses équipes de premier rang comme la Juventus FC, l'AC Milan ou encore la SS Lazio. Il préférera finalement rester une saison supplémentaire à la tête de l'équipe surprise de ce championnat.
La saison 2009-2010 commence avec une dynamique identique que la saison précédente : un seul point prit sur les cinq premiers matches, avant une nouvelle fois de remonter la pente. Après 24 matches, l'équipe sarde se retrouve avec 38 points au compteur et ne pointe plus qu'à trois points de la quatrième place qualificative pour la Ligue des champions de l'UEFA. Son nom est toujours pressenti pour prendre la tête d'un grand club, notamment le Milan AC, malgré un contrat courant jusqu'en 2011.
Signe de reconnaissance ultime pour un entraîneur de Serie A, Massimiliano Allegri a reçu le 1er février 2010 le prix convoité de « meilleur entraîneur » pour la saison 2008-2009, trophée décerné par ses pairs.
Après 9 matchs sans victoire et un litige avec Massimo Cellino, le président du club, à cause d'un refus de prolonger son contrat suite aux rumeurs le donnant partant pour l'AC Milan ou la Juventus FC, il est remercié le 13 avril 2010. Il est remplacé par le duo Gianluca Festa et Giorgio Melis jusqu'à la fin de la saison.
Il est officiellement nommé entraîneur du Milan AC le 25 juin 2010.
Le 7 mai 2011, il remporte dès sa 1ère saison au sein du club lombard son premier trophée (également son 1er trophée en tant qu'entraîneur), le championnat d'Italie avec l'AC Milan, le 18e de l'histoire du club lombard.
Histoire du club :Milan une ville, deux clubs mais une Passion : l’AC Milan.
Le premier club Lombard naquit en 1899 grâce à un passionné de football : un Britannique répondant au nom d’Herbert Kilpin! Et oui, vous ne rêvez pas; c’est bien un anglais – qui fit ses débuts dans le football à l’âge de 21 ans à Notts Olympic puis St Andrews – qui fonda notre cher club. Il commença sa carrière là-bas avant de s’exiler dans notre belle Italie pour y rejoindre l’Internazional Turino (mieux connu à présent sous le nom de Torino) ou il y jouera 7 ans.
Il bougera ensuite sur Milan ou sa grande passion pour le football lui donnera l’envie de fonder sa propre institution en 1899, nommé à ce moment la « le Milan Foot-ball & cricket club ». Aussi, cet objectif n’aurait sans doute jamais pu voir le jour sans l’aide de son ami et homme d’affaire Ormonde Edwards (ingénieur et vice consule Britannique) : le premier sera joueur-entraineur de 1899 à 1907 et le dernier président du club de 1899 à 1908. Ils remporteront sur cette période pas moins de trois titres de champion d’Italie (en 1901, 1906 et 1907, Ndlr)… les premiers de l’Hitoire du Milan!
Ils ne le savaient probablement pas encore, mais ils venaient alors de créer un club qui allait tout simplement devenir le club le plus titré au monde. Un club qui engendrera une passion et un amour dans le monde entier où sans se connaitre des hommes et des femmes se réunissent oubliant tout pour une seule et même passion ! L’amour d’un club : L’AC Milan.
AC Milan alors que la ville se nomme Milano mais pourquoi n’a-t-on pas appelé l’équipe « AC Milano », me direz-vous ? Et bien derrière une question qui peut paraître complexe, la réalité en est tout autre et la réponse aussi banale qu’une passe chirurgicale faite par Pirlo : en l’honneur de son fondateur, il a été décidé de garder – pour toujours – la phonétique anglaise. Voilà tout.
La question des origines peut d’ailleurs se poser pour le maillot : Pourquoi ces couleurs ? D’où provient cette idée du rouge et du noir ? Et bien, il faut croire qu’à l’époque le génie touchait déjà notre fondateur car il exprima cette phrase diaboliquement géniale et qui restera à tout jamais dans nos mémoires : « Nous seront rossoneri : le rouge car nous serons des diables, et le noir comme la peur que nous provoquerons chez l’adversaire!! » (Le rouge faisant rappeler le Diable et le noir le néant). Cette tradition est restée et est toujours le but de notre club. (C’est aussi de cette association que Diavoli est né).