Compréhension et Contremesures aux Cyberattaques des Systèmes Approximés d'Intelligence Artificielle – ATTILA

Aujourd’hui, nous assistons à un déploiement de systèmes cyber-physiques sans précédent destinés à surveiller et contrôler l'environnement, y compris les infrastructures critiques. L'Internet des objets intègre ces systèmes émergents dans le cloud, en se basant de plus en plus sur l’intelligence artificielle afin de fournir une haute qualité d'inférence et des capacités de prise de décision autonomes. Par conséquent, un énorme réseau composé de milliards de systèmes hétérogènes, fortement exposés aux cyberattaques, et nécessitant une énorme quantité d'énergie pour fonctionner, devrait être rapidement disponible. Parallèlement, l’humanité n’a jamais subi d'attaques aussi nombreuses et variées, à tous les niveaux des systèmes informatiques. D’autre part, nous n'avons jamais eu besoin d’autant d'énergie pour implanter un modèle d'IA, ce qui engendre de graves problèmes en termes de développement durable. Après des décennies axées sur la performance, la communauté se penche aujourd’hui sérieusement sur la sécurité et l'efficacité énergétique des systèmes, ce qui constitue un enjeu majeur de la recherche.

Il existe un grand nombre de travaux dans ce domaine. Par exemple, le calcul approximatif (AxC) est un paradigme émergent proposant d'assouplir la précision des systèmes informatiques, en tolérant certaines erreurs de calcul et réduire ainsi les ressources de calcul. Par conséquent, ceci permet de concevoir des systèmes plus rapides, plus simples et moins gourmands en énergie. En parallèle, la cybersécurité est devenue une préoccupation majeure et la sécurité est aujourd’hui considérée comme un objectif clé de la conception. Certaines cyberattaques très médiatiques au cours des dernières années ont montré un risque majeur sur la sécurité, la sûreté et la confidentialité des données personnelles et celles de l’entreprise. La recherche sur la sécurité matérielle s'est largement concentrée sur la mise en œuvre de systèmes cryptographiques résistants aux attaques par canaux auxiliaires. Cependant, nous constatons que de plus en plus d'attaques sont désormais dirigées vers des systèmes d'IA compromettant les données privées.

Dans ce scénario, les systèmes cyber-physiques, reposant sur l'IA, prennent de plus en plus de décisions autonomes, sans intervention humaine. Il est donc nécessaire de sécuriser ces cyber-systèmes. C'est le défi majeur que ATTILA vise à contribuer à apporter : sécuriser l'IA.

Le projet relève ce défi en se concentrant sur la sécurité de la mise en œuvre matérielle des accélérateurs d’IA basés sur le calcul approximatif. L'interaction entre le calcul approximatif et la sécurité étant un domaine de recherche récent, il est très difficile d’évaluer l’impact sur les performances de tels systèmes. À notre connaissance, ATTILA est le premier projet à étudier les vulnérabilités des canaux auxiliaires associées aux techniques de calcul approximatif, telles que la variation de tension et la quantification des données dans les accélérateurs neuronaux profonds (DNN) et approximatifs et reconfigurables. Nous nous concentrerons tout d’abord sur les canaux auxiliaires de puissance et construirons un banc expérimental afin d’étudier l'impact des approximations sur les fuites et la résistance aux attaques. Ensuite, nous effectuerons une exploration de l'espace de conception des réseaux neuronaux avec des niveaux d'approximation configurables, en construisant des fronts de Pareto. ATTILA abordera également les contre-mesures via un gestionnaire d'exécution intelligent s’appuyant sur le calcul approximatif pour rendre les attaques plus difficiles au moment de l'exécution. Nous considérerons d'abord les techniques d’attaques standards pour évaluer l'impact du calcul approximatif dans la résistance aux attaques, puis étudierons des techniques basées sur l’apprentissage machine en considérant les canaux auxiliaires électromagnétiques afin de généraliser les résultats obtenus précédemment.