Contraintes et Garanties d'Équité pour l'Apprentissage Automatique digne de Confiance – FaCTor
L'Apprentissage Automatique est l'un des piliers actuels de l'Intelligence Artificiel. Il est aujourd'hui utilisé pour la prise de décision dans le domaine médical, en traitement de la parole ou dans les véhicules autonomes pour citer quelques exemples. Si l'apprentissage peut s'avérer bénéfique, les modèles impactant directement les individus pourraient porter atteinte à certains droits reconnus par la Charte des Droits Fondamentaux de l'UE. Ce constat a conduit au développement de l'apprentissage équitable, un domaine dont l'objectif est d'identifier et de corriger les biais discriminatoires. Son importance a récemment été confirmée par une proposition de Réglementation sur l'Intelligence Artificielle auprès de la Commission Européenne qui cite la non-discrimination et l'égalité entre les femmes et les hommes comme deux des droits fondamentaux qui devraient être protégés dans les systèmes basés sur l'intelligence artificielle.
Une des principales limites de la littérature est le manque de compréhension des approches d'apprentissage équitable d'un point de vue théorique, en particulier lorsque des décisions déterministes sont obtenues à partir de prédictions stochastiques. De plus, l'équité n'est généralement pas la seule exigence pour obtenir des systèmes dignes de confiance. L'objectif de FaCTor est de combler ces lacunes en étudiant, d'un point de vue théorique, l'écart qui existe entre les modèles stochastiques et déterministes. Ce projet cherche à développer des solutions à la fois dignes de confiance et socialement plus acceptables en étudiant conjointement l'équité et d'autres notions telles que le respect de la vie privée et la précision. De plus, il propose de confronter les algorithmes développés à des problèmes réels porteurs de nouveaux challenges. Le but final est de rendre l'apprentissage automatique plus responsable et conforme aux exigences légales, en veillant à ce que ses bénéfices ne soient pas réservés à un sous-ensemble de la population.
Coordination du projet
Michaël PERROT (Centre Inria de l'Université de Lille)
L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.
Partenariat
Inria Centre Inria de l'Université de Lille
Aide de l'ANR 271 719 euros
Début et durée du projet scientifique :
décembre 2023
- 48 Mois