Traceability for trusted multi-scale data and fight against information leak in daily practices and artificial intelligence systems in healthcare

Dans le domaine de la santé, la cybersécurité est au cœur des défis de l’intelligence artificielle (IA) avec l’accès à des données massives multi-échelles distribuées. Les systèmes d’IA en santé sont ainsi identifiés par l’UE comme étant à haut risque. La cybersécurité est par conséquent imposée par de nombreuses règles éthiques et législatives : d’un côté, la sécurité des données doit être assurée, quelle que les transformations qu’elles ont subies, d’un autre côté, les méthodes créées et appliquées à ces données doivent elles-mêmes être sûres.

Dans ce contexte, différents enjeux importants en termes de traçabilité sont à considérer pour permettre un développement sûr de l’IA en santé, avec l’externalisation des données et des traitements. D’une part, il est nécessaire d’être certain de l’origine des données, de leur histoire, de la manière dont elles ont été créées, traitées, etc. Les mêmes questions se posent pour les modèles d’IA construits sur ces données, ces derniers étant ensuite utilisés en pratique clinique. D’autre part, il faut donner aux patients et aux professionnels de santé les moyens de gérer leur consentement. La lutte contre la fuite de données est elle aussi essentielle. Telle que définie, la traçabilité englobe des enjeux à la frontière entre la cybersécurité, la gestion et le traitement des données en conformité avec le consentement du patient et des professionnels de santé ; enjeux qui doivent être traités conjointement en tenant compte des standards.

Ce sont ces enjeux de traçabilité que TracIA se propose de traiter à l’échelle d’un système d’information apprenant (SIA). Un SIA repose sur la réutilisation massive de données pour extraire des connaissances qui sont intégrées dans des systèmes d’aide à la décision ensuite mis à disposition des médecins. Ces systèmes produisent des données que le SIA peut réutiliser pour créer de nouvelles connaissances et, ainsi de suite. Cela permet par exemple de concevoir un jumeau numérique du patient ; un objectif clé du programme de recherche Santé Numérique. Ici, TracIA vise à développer une méthodologie et des solutions technologiques de traçabilité innovantes et efficaces ; les briques manquantes au développement d’une IA de confiance en santé pour atteindre simultanément plusieurs objectifs.