XAI pour les modèles de boîte noire utilisant des méthodes formelles basées sur la logique et l'optimisation combinatoire – FORM-XAI

Le projet FORM-XAI répond à la nécessité croissante d'interprétabilité dans le domaine de l'intelligence artificielle (IA), particulièrement dans les secteurs critiques comme la santé, la finance et le transport. Les modèles complexes, tels que les réseaux de neurones profonds, bien qu'efficaces, soulèvent des préoccupations quant à leur opacité, limitant ainsi la confiance des utilisateurs. L'objectif de ce projet est de développer des approches d'IA explicable (XAI) qui fournissent des explications rigoureuses, cohérentes et adaptées aux besoins des utilisateurs, tout en maintenant des performances élevées.

En s'appuyant sur des méthodes formelles et des techniques d'optimisation combinatoire, FORM-XAI vise à rendre les modèles de boîte noire plus transparents. Contrairement aux méthodes agnostiques actuelles, qui manquent souvent de cohérence et ne tiennent pas compte des limitations cognitives des utilisateurs, l'approche proposée se concentre sur la génération d'explications avec des garanties mathématiques. Cependant, pour surmonter le coût computationnel élevé associé à ces explications, le projet propose des approximations efficaces qui équilibrent rigueur et rapidité.

La méthodologie adoptée sera interdisciplinaire, intégrant des techniques de logique propositionnelle, d'échantillonnage statistique et d'optimisation sous-modulaire, garantissant ainsi des explications vérifiables et interprétables. Le projet inclut également une phase de validation sur des cas d'étude réels, en ciblant des domaines où la transparence est primordiale.

La valeur scientifique de FORM-XAI réside dans la combinaison d'approches formelles et d'optimisation pour améliorer la transparence des modèles d'apprentissage profond. Ce projet répond aux enjeux réglementaires contemporains sur l'IA et aux préoccupations croissantes en matière de confiance, en développant des solutions qui garantissent la responsabilité des systèmes d'IA.