CITADEL : Confidentialité et mitigation du biais dans l'apprentissage fédéré pour la santé numérique – CITADEL

L'apprentissage fédéré (FL) est un paradigme prometteur qui prend de l’ampleur dans le domaine de l'apprentissage automatique préservant la confidentialité des systèmes de edge computing. Grâce au FL, plusieurs propriétaires de données appelés clients peuvent produire de manière collaborative un modèle sur leurs données privées, sans avoir à envoyer leurs données à des prestataires de services externes. Le FL a été rapidement adopté dans plusieurs domaines d’application, telles que la santé numériques, qui génère aujourd’hui le plus grand volume de données. Dans les systèmes de santé, les problèmes de confidentialité et de biais sont particulièrement importants.

Bien que le FL soit un premier pas vers plus de confidentialité en gardant les données locales à chaque client, cela n'est pas suffisant puisque les paramètres du modèle FL partagés sont vulnérables à des attaques contre la vie privée, comme le démontrent des travaux récents. Il est donc nécessaire de concevoir de nouveaux protocoles FL qui soient robustes face à de telles attaques. En outre, les clients FL peuvent disposer de données très hétérogènes et déséquilibrées, ce qui peut entraîner un biais du modèle FL, avec des disparités de traitement entre des groupes socio-économiques et démographiques. Des études récentes montrent que l'utilisation de l'IA peut davantage exacerber les disparités entre les groupes, et que le FL peut être un vecteur de propagation du biais entre les différents clients FL. Dans ce contexte, des travaux parus récemment dans ICDE, NDSS et AAAI montrent que le biais, la confidentialité et la préparation des données (pour corriger les valeurs manquantes ou dupliquées) sont en concurrence ; les traiter indépendamment – comme cela se fait habituellement – peut avoir des effets de bord négatifs les uns sur les autres.

Par conséquent, il est important de proposer une méthode multi-objectifs d’atténuation du biais, de protection contre les menaces de confidentialité, et de préparation des données dans le FL. Cela est particulièrement difficile dans le FL où aucune connaissance globale des informations statistiques sur l’ensemble des données hétérogènes n’est disponible, une connaissance qui est nécessaire dans les techniques classiquement utilisées dans l’état de l’art. Le projet CITADEL relève ces défis et vise précisément à aborder les problèmes à l'intersection de la préparation des données FL, de leur confidentialité et de leur biais, à travers : (i) de nouveaux protocoles FL distribués ; (ii) Une approche multi-objectifs pour prendre en compte les aspects de confidentialité, d’équité et de qualité, ces objectifs étant antagonistes ; (ii) Application de ces techniques à deux cas d'utilisation de la santé numérique basée sur FL avec des données médicales réelles.