Comprendre les réseaux profonds grâce à la théorie des jeux – UNDERNEATH

L'analyse théorique des réseaux de neurones profonds (DNN) est sans doute l'une des directions de recherche les plus difficiles en apprentissage automatique à l'heure actuelle, car elle oblige les scientifiques à trouver de nouveaux outils mathématiques pour expliquer leur comportement. Dans ce projet, nous explorons l'interaction entre les DNNs et la théorie des jeux en considérant les jeux de congestion et en les reliant aux DNNs et aux propriétés de leur fonction de perte. Au-delà de la récupération des résultats de pointe de la littérature, nous prévoyons que notre proposition fournira un nouvel outil très prometteur pour l'analyse des DNN et permettra de résoudre des problèmes ouverts concrets liés à 1) la caractérisation de l'inefficacité de l’optimisation des DNNs en fonction des choix algorithmiques, tels que leur architecture, activation, et fonction de perte utilisée et 2) proposer de nouvelles stratégies d'optimisation avec de fortes garanties de convergence.