Exploitation de machines interprétables pour l'amélioration des performances et la prise de décision – LIMPID

L'augmentation rapide du volume de données collectées, de l’espace de stockage et des puissances de calcul a rendu l'Intelligence Artificielle (IA) indispensable dans de multiples domaines. Bien que les réseaux de neurones permettent de résoudre des problèmes difficiles pour les algorithmes traditionnels, plusieurs de leurs inconvénients restent problématiques. En application réelle, le système décisionnel avec IA peut recevoir une information qui n’a rien à voir avec tout ce qu’il a vu pendant l’apprentissage. Cela peut entrainer des comportements inattendus et pose donc question sur le niveau de confiance à accorder au résultat de ce système? Le projet LIMPID porte sur l’estimation du niveau de confiance de réponse du système IA, en particulier pour la reconnaissance faciale. Mais les résultats de LIMPID peuvent être étendus à un grand nombre d’autres applications. LIMPID propose également l’analyse des caractéristiques d’image permettant la prise de décision du système IA.