Sécurité de l'Intelligence Artificielle pour des Applications Défense – SAIDA

Le rapport Villani met l’accent sur l’importance de maitriser l’IA dans le domaine de la sécurité et de la défense. La France se doit de garder un avantage sur ses adversaires et d’être une référence sur cette technologie aux vues de ses alliés. Une dépendance à une technologie non-européenne est une menace pour notre pays. L’utilisation de l’IA dans la défense est le traitement de l’information.

Comme dans d’autres domaines, les données sont nombreuses, grandes, hétérogènes, mais en défense elles sont aussi confidentielles, sensibles, hyper-violentes et provenant de sources parfois de peu de confiance. L’existence d’adversaires sérieux est aussi une différence majeure. Ces adversaires attaquent les systèmes et manipulent les données pour causer des défaillances comme des faux négatifs (ne pas détecter une cible) ou des faux positifs (sonner de fausses alarmes). Cela réduit la confiance en IA, outil de choix dans le processus de prise de décisions.

Le projet SAIDA cible la chaire AID “Fiabilité de l’intelligence artificielle, vulnérabilités et contre-mesures”. Son but est d’établir les principes fondamentaux de construction de systèmes IA fiable et sûr. Un système fiable maintient ses performances même quand il fait face à des incertitudes dans la chaine d’acquisition des données. Un système sûr résiste à des attaques intentionnelles dans des environnements hostiles. Fiabilité et sécurité sont mis à mal dans les phases d’entrainement et opérationnelle. Par conséquent, SAIDA étudie des points durs comme l’empoisonnement de données d’entrainement, le vol de paramètres d’un réseau profond, ou l’inférence par fuite d’information de données sensibles ayant servi à l’entrainement. De plus, SAIDA se fixe comme but de découvrir les fondamentaux des mécanismes d’attaque et de défense contre un réseau déjà déployé.
Trois grands axes de recherche définissent SAIDA :

Premièrement, SAIDA procédera à des investigations théoriques en statistiques et mathématiques appliquées pour découvrir les fondements de la fiabilité et de la sécurité. Cette connaissance approfondie, clé dans la plupart des taches d’apprentissage, mènera à l’invention de procédures d’entrainement plus sures. Deuxièmement, nous ferons le lien entre l’ Adversarial Sampling et l’ Information Forensics and Security (tatouage, stéganographie et analyse criminalistique d’images). Grâce à une longue expérience en IFS, de nouvelles attaques et contre-mesures seront montées pour mieux explorer les limites de la technologie IA. Troisièmement, SAIDA étudiera la protection des données d’entrainement et des système IA. Il est capital d’empêcher toute fuite d’information concernant des données sensibles et de bloquer des tentatives malicieuses d’empoisonnement de données.

Le projet SAIDA combine ainsi des investigations théoriques et des approches heuristiques pour garantir l’applicabilité des découvertes et la volonté de se confronter à la réalité des menaces actuelles. Ces trois directions sont déclinées en neuf taches dans la soumission, chacune réalisable dans une durée de 12 mois en moyenne par un doctorant ou un postdoc.

SAIDA prévoit des collaborations avec des chercheurs de diverses communautés couvrant un large spectre d’expertise : des mathématiciens appliqués en statistiques, probabilités et détection d’événement rare ; des experts en fouille de données dans des espaces de grande dimension. SAIDA inclue aussi des experts en IFS avec un savoir-faire en traitement du signal et des images, et en perception humaine. Toutes ces compétences sont nécessaires pour garantir la fiabilité, la robustesse et la confiance en l’IA pour la défense. SAIDA inclue naturellement des experts en apprentissage et des spécialistes du traitement de données multimodales pour couvrir un large champ de taches, de la classification à la recherche d’information dans des bases de données complexes et hétérogènes.