Tester l'importance des variables pour une Intelligence Artiicielle explicable – VITE

L'utilisation des techniques d'intelligence artificielle (IA) dans les sciences naturelles est devenue omniprésente, en raison de leur capacité à prédire un résultat donné à partir de données d'entrée potentiellement complexes. Cependant, dans l'intérêt de la connaissance scientifique, l'IA ne peut pas être utilisée comme une recette toute faite, mais doit conduire à des explications scientifiques, ce qui nécessite l'utilisation de l'IA explicable (xAI). Si la xAI peut correspondre à des modèles relativement simples lorsque peu de variables sont impliquées, elle devient une tâche difficile dans un cadre à haute dimension. VITE vise donc à construire des outils fiables avec des garanties statistiques précises pour comprendre l'impact d'une variable donnée utilisée pour prédire un résultat d'intérêt. L'approche doit être agnostique vis-à-vis des modèles. Pour cela, nous proposons d'étendre les schémas de permutation conditionnelle proposés récemment. Nous voulons étudier en profondeur les garanties théoriques qui découlent de telles procédures. Deuxièmement, pour mieux prendre en compte les dépendances complexes qui existent entre les variables, nous voulons construire des tests qui capturent ces dépendances, en généralisant l'utilisation de méthodes d'échantillonnage. De telles méthodes d'échantillonnage peuvent être considérées comme un cas particulier des modèles génératifs maintenant populaires en IA. Enfin, nous aimerions mettre ces procédures à la disposition des utilisateurs. Pour cela, nous éditerons un logiciel utilisant une API compatible avec scikit-learn. Il comprendra des exemples montrant l'utilisation de l'importance des variables dans plusieurs exemples réalistes provenant de l'imagerie génétique du cerveau.