TSIA - Cybersécurité - Thématiques Spécifiques en Intelligence Artificielle (Intelligence Artificielle et cybersécurité)

Vérification d'Intégrité d'Image pour l'Anticipation d'Attaques d'Influence – CI2(IA)

Résumé de soumission

La disponibilité d’outils de génération de deepfakes rend leur création et leur diffusion accessibles. De plus, la performance de ces modèles produit des résultats pouvant tromper l’humain. C’est dans ce contexte, que s’inscrit le projet Checking Image Integrity for Anticipating Influence Attacks (CI2(IA)) qui vise à vérifier quelle confiance accorder à de l’information visuelle provenant de journalistes, de réseaux sociaux ou d’influences étrangères. Ce projet s’attaque à la vérification d’intégrité des contenus, i.e la capacité à déterminer si un média est un deepfake ou non et s’il a un but malicieux.
Bien que des détecteurs performants basés sur des réseaux de neurones existent, ils ne sont que peu généralisables à des données issues de distributions différentes (par exemple, un générateur de deepfakes différent). Pour résoudre ce problème, les techniques d’adaptation de domaine seront employées dans ce projet.
Une autre approche active pour vérifier l’intégrité des deepfakes est de générer des deepfakes “éthiques” dans lesquels une marque est insérée comme tatouage pour indiquer leur provenance. Le but du projet est de proposer une méthode de tatouage robuste, ayant des garantis sur la qualité de l’image générée, tout en permettant à n’importe quel utilisateur de vérifier la provenance d’une image tatouée.
Les approches actives permettent également de vérifier l’intégrité d’images tatouées. En comparant l’image tatouée à des versions modifiées, le projet s’intéresse à comprendre, automatiquement, les buts et enjeux de changements sémantiques entre les images.
CI2(IA) propose d’adresser ces aspects complémentaires dans le but de permettre une lecture critique de l’information diffusée dans un contexte global de fake news.

Coordination du projet

Vincent itier (Centre d'Enseignement de Recherche et d'Innovation Systèmes Numériques)

L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.

Partenaire

CERI SN Centre d'Enseignement de Recherche et d'Innovation Systèmes Numériques
IMATAG
GIPSA GIPSA

Aide de l'ANR 373 835 euros
Début et durée du projet scientifique : septembre 2023 - 48 Mois

Liens utiles

Explorez notre base de projets financés

 

 

L’ANR met à disposition ses jeux de données sur les projets, cliquez ici pour en savoir plus.

Inscrivez-vous à notre newsletter
pour recevoir nos actualités
S'inscrire à notre newsletter