Solutions holistiques et généralisables pour l'atténuation des biais dans la reconnaissance des visages – GOOD-BIAS

Les biais en IA proviennent de la discrimination systématique dans les systèmes d'intelligence artificielle, souvent causée par des données d'apprentissage non représentatives ou des biais sociétaux présents même dans des jeux de données diversifiés. Ces biais peuvent avantager injustement certains groupes, impactant de l'embauche à la police. Il est essentiel d'adopter des directives éthiques et des méthodes transparentes. Des études montrent que la précision de la reconnaissance faciale varie selon les groupes démographiques. En 2020, des arrestations erronées ont été signalées aux États-Unis suite à des erreurs de reconnaissance faciale concernant des hommes afro-américains. En 2021, l'UE a instauré l'Acte sur l'IA demandant des audits de systèmes biométriques pour détecter la discrimination.

Le projet GOOD-BIAS vise à résoudre les défis liés aux biais dans la reconnaissance des visages, avec l'ambition d'avancer la connaissance actuelle tout en renforçant la confiance en des solutions biométriques sûres et équitables.

Au-delà des disparités démographiques, les biais en IA proviennent de la qualité des données, des méthodes de collecte ou de la conception algorithmique. Les objectifs non techniques du projet visent à accroître la confiance dans les systèmes biométriques, en alignant avec les directives européennes.

Les objectifs techniques comprennent:
- Développement de Métriques Holistiques : concevoir des métriques adaptables.
- Conception d'Algorithmes Robustes : élaborer des algorithmes résistants aux biais.
- Désenchevêtrement des Biais : identifier les biais au-delà des groupes démographiques.
- Généralisation: adapter les méthodes pour les généraliser à divers scénarios.
- Diffusion des Résultats : partager les découvertes, contribuant à la standardisation.