Exploitation de modèles d'explications pour les algorithmes d'apprentissage profond – AIDA

L'objectif du projet AIDA est de développer des techniques fondées et rigoureuses pour les explications exploitables en IA (aXAI). Pour améliorer la transparence des données et des modèles spatio-temporels, AIDA préconise un cadre de modélisation causale pour les séries temporelles multivariées qui capture le processus sous-jacent de génération des données temporelles. Les modèles causaux structurés servent à générer des explications orientées vers l'action pour les modèles Deep Learning (DL) de plus en plus expressifs (c'est-à-dire suffisants, contrefactuels). Les explications causales de AIDA vont au-delà des compromis traditionnels entre la performance prédictive et l'interprétabilité des méthodes d'IA existantes et offrent de nouvelles opportunités théoriques et applicatives pour la confiance et l'utilisabilité de l'IA dans le domaine à enjeu élevé des ressources en eau au BRGM. En proposant de nouvelles mesures d'intérêt pour les explications et des stratégies d'exploration des explications, nous aidons les utilisateurs finaux à obtenir des découvertes fiables sur les modèles DL. En exploitant les relations causales entre les variables des séries temporelles multivariées, nous pouvons construire des modèles de substitution plus simples qui peuvent surpasser les modèles DL originaux, tout en pouvant être réutilisés dans un nouveau contexte sans de coûteuses opérations de réentraînement.