Reconnaissance Faciale et Régulation - Contribution aux Aspects Ethiques et à l'Explicabilité – FAR-SEE

Le projet FAR-SEE vise à étudier les questions de biais d'échantillonnage, d'équité, d'incertitude et d'explicabilité de ces caractéristiques pour les systèmes de reconnaissance faciale fondés sur l'Intelligence Artificielle (IA) dans le but d'améliorer les algorithmes existant, de révéler les compromis performance/équité/explicabilité 'optimaux' et formuler ainsi les principes d'une régulation opérationnelle des ces systèmes . Les objectifs sont donc multiples. 1) Elaborer des méthodes permettant de détecter/corriger les biais de sélection lors de l'apprentissage (décrits non seulement par les variables 'sensibles' telles que le genre ou l'âge mais aussi par la physionomie des individus et les caractéristiques des images, e.g. luminosité), d'assurer l'équité (un niveau de disparité des performances entre 'groupes sensibles' acceptable) sans détériorer la performance et d'évaluer l'incertitude relative à la mesure de la performance et des métriques d'équité. 2) Expliquer la nature des biais d'échantillonnage avérés, l'incertitude inhérente à la mesure de la performance/équité, le niveau d'iniquité mesuré, de façon à pouvoir améliorer les méthodes élaborées pour atteindre l'objectif 1). 3) A la lumière des compromis entre incertitude, performance, équité et explicabilité, décrire la nature de contraintes réglementaires acceptables/opérationnelles permettant de concilier les contraintes devant être satisfaites par les systèmes de reconnaissance faciale.
Le projet regroupe trois partenaires, complémentaires et pouvant se prévaloir d' une longue expérience de collaboration. Il s'appuiera donc sur l'expertise de l'équipe R&D de la société IDEMIA au sujet des technologies de reconnaissance faciale et sa connaissance des enjeux réglementaires, les compétences du laboratoire LTCI de Télécom Paris dans le domaine de l'IA de confiance et celles du laboratoire I3 sur les questions d'éthique et de régulation opérationnelle de l'IA.