CE39 - Sécurité globale, résilience et gestion de crise, cybersécurité

Outils pour la reconnaissance automatique des deepfakes – APATE

Résumé de soumission

La manipulation des images et de la voix représente une menace potentielle en termes de crimes tels que les campagnes de désinformation, la fraude à la sécurité, l'extorsion, les crimes en ligne contre les enfants ou les marchés illicites. Les techniques de deepfake sont largement disponibles, ce qui rend la génération de deepfakes facile. La qualité s'est considérablement améliorée. Il est désormais difficile de les détecter par une simple analyse visuelle. Par conséquent, il existe un besoin croissant d'outils de détection. Alors que plusieurs méthodes atteignent de bons taux d'erreur dans des scénarios contrôlés, aucun outil dédié n'est disponible pour les experts en criminalistique. L'objectif d'APATE est de fournir des méthodes de pointe pour détecter les deepfakes. Le projet vise à fournir une boîte à outils de techniques complémentaires, basées sur les parties audio ou image de la vidéo, exploitant des informations de bas niveau ou sémantiques, ou même dans une approche multimodale. Chaque outil adressera une famille différente de deepfakes, et sera accompagné d'une documentation détaillant les cas d'utilisation, les biais connus, le cadre de validation et la manière dont les résultats peuvent être interprétés. Le consortium comprend des experts en criminalistique du Service National de Police Scientifique (SPNS), ce qui garantit que les méthodes proposées seront utilisables, correctement décrites et traiteront efficacement les deepfakes trouvés dans les affaires criminelles. En outre, la littérature sur la génération de deepfakes sera continuellement examinée afin de surveiller les dernières techniques de génération de deepfakes; une préoccupation particulière sera d'éviter l'adaptation aux bases de données d'apprentissage. Le consortium comprend trois laboratoires de recherche (Centre Borelli à l'ENS Paris Saclay, EPITA, LIX à l'Ecole Polytechnique), le SNPS, et IDEMIA, leader mondial de la reconnaissance biométrique.

Coordination du projet

Raffaele Grompone (Ecole normale supérieure Paris-Saclay)

L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.

Partenaire

IDEMIA I&S IDEMIA IDENTITY & SECURITY FRANCE
SNPS SERVICE NATIONAL DE POLICE SCIENTIFIQUE
EPITA ÉCOLE POUR L'INFORMATIQUE ET LES TECHNIQUES AVANCEES (EPITA)
LIX Ecole Polytechnique
CB Ecole normale supérieure Paris-Saclay

Aide de l'ANR 559 679 euros
Début et durée du projet scientifique : septembre 2022 - 36 Mois

Liens utiles

Explorez notre base de projets financés

 

 

L’ANR met à disposition ses jeux de données sur les projets, cliquez ici pour en savoir plus.

Inscrivez-vous à notre newsletter
pour recevoir nos actualités
S'inscrire à notre newsletter