Régulation de l'IA – Regul-AI

L’objectif de ce projet est l’audit des algorithmes de machine learning et leur réparation.
Les nouvelles législations (RGPD et European Act) fournissent un cadre légal qui va encadrer
la mise en oeuvre pratique des algorithmes. Elles fournissent un certain nombre de recommendations que doivent suivre les algorithmes. Tout particulièrement ces algorithmes ne doivent pas avoir des comportements différents pour des sous-groupes d’utilisateurs sauf si ces sous-groupes sont identifiés à l’avance et si ces différences sont justifiées. Ils doivent également afficher clairement ce pour quoi ils sont conçus et ne pas induire en erreur les utilisateurs.
De nombreux travaux de recherche existent pour évaluer les biais en apprentissage ainsi qu’étudier l’explicabilité des décisions algorithmiques. En premier lieu, ces travaux sont à poursuivre afin de mieux comprendre ces problématiques, et amener des procédures permettant de certifier la présence ou l’absence de biais. En outre, la difficulté d’auditer les algorithmes vient essentiellement du fait que les mesures dépendent de la distribution de l’échantillon. Mais dans un cadre d’audit « boite noire » i.e en ne connaissant que les sorties de l’algorithme sur un jeu de données préalablement sélectionné ou choisi par l’auditeur, il faut prendre en compte la variabilité de l’algorithme par rapport aux distributions elle-memes.
Notre objectif est donc dans ce projet de développer de nouvelles manières de définir, de détecter et de contrôler les effets des biais, de manière uniforme et robuste lorsque la loi des observations est partiellement connue. Notre approche est multi-disciplinaire se basant sur des statistiques robustes et du machine learning (maths et informatique) pour définir des propriétés valables pour des voisinages distributionnels, des processus gaussiens pour la construction de plans d’expérience optimaux de découverte des observations, de l’optimisation pour pouvoir construire pratiquement des algorithmes.