Expliquer la robustesse et dériver des explications robustes – ERARE

Le projet ERARE vise à développer de nouvelles approches pour générer des explications robustes dans des environnements contraints (par exemple, l'IA frugale, les contextes avec un accès limité aux ressources ou les contextes où les données sont limitées ou défectueuses avec incomplétude ou imprécision). Il vise également à aller au-delà de l'explication des décisions du modèle pour expliquer également son incertitude prédictive et sa robustesse dans les contextes de changement de distribution. Les résultats du projet combleront une réelle lacune en abordant la robustesse dans XAI et il est complémentaire avec d'autres propriétés souhaitables telles que l'expressivité, l'intelligibilité et la cohérence. Les partenaires académiques composant le consortium ERARE (CRIL, Heudiasyc et MICS) sont des laboratoires académiques publics spécialisés dans les thématiques du projet et ils ont des compétences complémentaires. Le partenaire industriel (KAPSDATA) est une société informatique qui développe des solutions intelligentes pour la surveillance en temps réel et l'optimisation de la consommation énergétique des centres de données.