COntenus Multimedia PROtégés par Machines IntelligenteS

Le projet COMPROMIS a étudié les trois volets de la sécurité des contenus multimédia, à savoir la confidentialité, l'intégrité et l'identification des contenus et des IA qui les traitent. 

* Concernant la confidentialité, plusieurs résultats notables sont à mettre en avant: le développement de méthodes de stéganographie génératives sur des images via des modèles de diffusions, l'anonymisation réversible de visages via des transformations secrètes dans l'espace latent, et l'extraction d’identités à partir du modèle d'images CLIP via l'apprentissage par renforcement.

* Les travaux liés au contrôle d'intégrité portent sur la robustesse aux exemples adverses (Paris-Dauphine), la détection de contenus générés en audio (voix), en images variées ou spécifiquement sur des remplacements de visages. D'autres travaux portent sur la stéganalyse en cherchant à maximiser les taux de vrais positifs pour des taux de faux positifs faibles. Concernant l'intelligence artificielle, leurs intégrité a été mise à mal en développant des attaques par portes dérobées sur des "transformeurs" visuels.

* Le lot sur l'identification des contenus et des IAs associées a permis notamment d'étudier des protocoles d'authentification à base de biométrie, en insistant également sur l'explicabilité des systèmes biométriques et sur la sécurité de ces systèmes, notamment par rapport à des attaques par représentation. D'autres travaux ont permit la création d'une base pour l'identification d'identités vocale (ASVspoof 5) et le benchmark des méthodes d'identification. Enfin d'autres travaux sont liés à la sécurité des méthodes de tatouage neuronaux: deux méthodes ont été étudiées (audio et image), et nous avons montré que la sécurité de cette nouvelle génération de méthodes était souvent faible.

* En terme de dissémination, nous avons participé à la réalisation d'une journée sur la détection de contenus générés et d'une autre sur l'identification et la désidentification (journées communes aux GdR IASIS et SI). Nous avons également participé à l'organisation d'une journée nationale de la sécurité de l’Intelligence Artificielle lors de l'ECW, d'une journée de rencontre académique et industriels autour de la biométrie, et à l'organisation d'une compétition internationale.