Intégration de la théorie des jeux et estimation statistique pour l’interprétabilité et les mesures d’importance – GATSBII

Les modèles d'apprentissage automatique (ML) dans les systèmes d'intelligence artificielle (IA) basés sur des données - en particulier ceux soumis aux nouvelles réglementations européennes - nécessitent d'être explicables. L'explicabilité en IA (XAI) est liée à la capacité, pour un esprit humain, de comprendre et de communiquer sur les décisions proposées par les modèles ML. L'un des principaux défis de l'XAI est de comprendre l'influence des entrées d'un modèle sur ses sorties et de fournir des diagnostics d'interprétabilité globale. Des liens étroits entre XAI et l'analyse de sensibilité globale (GSA) ont été récemment mis en évidence. En effet, la GSA vise à étudier comment l'incertitude sur la sorti d'un modèle peut être allouée aux différentes sources d'incertitude de ses entrées. Au cours des dernières décennies, les mathématiciens appliqués ont développé plusieurs indices GSA pour quantifier l'importance relative des entrées sur la sortie tandis que des méthodes heuristiques sont principalement utilisées dans XAI. Plusieurs problèmes fondamentaux restent en suspens. Comment prendre en compte la dépendance entre les entrées d'un modèle, et en particulier, comment distinguer ses effets des effets d'interaction des entrées ? Comment estimer des indices quand on ne peut pas choisir à priori le plan d'expériences ? Comment estimer les indices à la volée ? Comment pouvons-nous traiter des modèles de grande dimension ? Ces questions ouvertes sont encore plus pertinentes dans les applications industrielles où les variables d’entrée sont rarement indépendantes et où le plan d’expérience ne peut pas être choisi. Le projet vise à faire face à ces questions difficiles en réunissant des statisticiens spécialistes de GSA/XAI et des chercheurs en théorie des jeux coopératifs en explorant plusieurs pistes (modèles hiérarchiques et outils de la théorie des jeux pour gérer la dépendance, algorithme stochastique pour construire des estimateurs en ligne, ...)