Outils pour la reconnaissance automatique des deepfakes – APATE

Le projet a mobilisé un ensemble de méthodes et de technologies couvrant l'intégralité de la chaîne, de l'analyse de la génération de deepfakes au développement d'outils opérationnels. Sur le volet génération, le consortium a conduit une revue exhaustive des techniques existantes, établissant une cartographie détaillée du paysage des menaces et identifiant les méthodes de génération les plus pertinentes pour les scénarios de fraude. Cette analyse a directement orienté la construction des jeux de données d'évaluation et la conception des approches de détection.

La recherche en détection au sein d'APATE s'est appuyée sur des méthodes classiques et sur l'apprentissage profond, exploitant la capacité des réseaux de neurones convolutifs et à transformateurs à identifier les artefacts subtils introduits par les processus génératifs. Plusieurs stratégies de détection complémentaires ont été poursuivies en parallèle : analyse spatiale des régions faciales, analyse de la cohérence temporelle entre les images vidéo, analyse dans le domaine fréquentiel ciblant les artefacts de compression et de synthèse, et approches multimodales combinant signaux visuels et audio pour détecter des incohérences entre le visage et la voix. Cette diversité d'approches reflétait la conviction qu'aucune méthode unique n'est suffisante et que la détection forensique robuste nécessite de pouvoir combiner plusieurs sources de preuves.

Une part significative de l'effort technique a été consacrée à la constitution de jeux de données. Quatre corpus d'évaluation originaux ont été produits, couvrant le large spectre des outils de génération commercialement accessibles, les scénarios de fraude spécifiques à la forensique, la synthèse d'images par diffusion, et la manipulation faciale localisée. Ces jeux de données ont été conçus avec une variation contrôlée des méthodes de génération, de la langue, de l'apparence et du contexte social, fournissant un banc d'essai plus exigeant et opérationnellement ancré que ceux disponibles dans le domaine public, et constituent collectivement une contribution substantielle à l'infrastructure d'évaluation disponible pour la communauté de recherche en forensique des deepfakes.

Le projet a également fait appel à des cadres d'analyse biométrique établis, en s'appuyant sur une expertise en reconnaissance faciale et en vérification du locuteur pour évaluer la vulnérabilité des systèmes de vérification d'identité aux attaques par deepfake. Sur le plan juridique et réglementaire, des analyses de droit structurées et une cartographie des cadres applicables ont permis d'identifier la législation pertinente et de formuler des recommandations concrètes pour le développement et le déploiement responsables des outils de détection. Ces méthodes reflètent une approche résolument multidisciplinaire, combinant vision par ordinateur, traitement du signal, biométrie et droit autour d'un objectif opérationnel commun.

Le projet APATE a produit des résultats dans quatre domaines interconnectés. La production scientifique la plus tangible est le bilan de publications : 35 articles évalués par des pairs (8 dans des revues internationales et 27 dans des conférences internationales) couvrant l'analyse de la génération de deepfakes, de nouvelles méthodes de détection et l'introduction de nouveaux jeux de données.

Quatre jeux de données d'évaluation originaux ont été construits au cours du projet. Deux portent sur la fraude par deepfake vidéo : l'un offrant une large couverture des méthodes d'échange de visage et d'avatar accessibles via des outils de génération largement disponibles, et l'autre proposant des scénarios de fraude opérationnellement ancrés. Deux autres jeux de données portent sur la détection d'images synthétiques, ciblant respectivement la génération par diffusion et la manipulation faciale localisée. Ces quatre corpus comblent une lacune significative dans le paysage des benchmarks publics et fournissent à la communauté de recherche une infrastructure d'évaluation plus diverse et opérationnellement pertinente que ce qui était disponible auparavant.

Sur le volet détection, le projet a développé et validé des approches ciblant les artefacts spatiaux, la cohérence temporelle et l'incohérence audio-visuelle, aboutissant à six implémentations logicielles prototypes formant le cœur de la boîte à outils de détection APATE.

Le résultat le plus significatif est cependant un résultat négatif : aucune méthode générale et fiable de détection des deepfakes indépendamment de leur technique de génération n'a été trouvée. Les détecteurs entraînés sur des méthodes connues se dégradent substantiellement face à des techniques inconnues, et l'émergence de modèles génératifs par diffusion au cours du projet a encore creusé cet écart. Ce résultat n'est pas un échec mais une contribution importante en soi, une caractérisation précise de l'état actuel de la science et de ce que le domaine doit prioriser. Pour les praticiens forensiques et les décideurs, il porte une implication directe : la détection automatisée des deepfakes ne peut pas encore être considérée comme un problème résolu.

La caractéristique déterminante du projet APATE est sa combinaison d'ambition scientifique et d'ancrage opérationnel. Plutôt que de poursuivre des performances sur des benchmarks académiques standard, le projet a orienté son agenda de recherche autour des besoins concrets des praticiens forensiques, avec la police scientifique française comme garde-fou permanent. Cet engagement a produit la contribution la plus précieuse du projet : une évaluation lucide du fossé qui existe entre ce que la recherche peut fournir et ce qu'exige l'usage forensique opérationnel.

En perspective, le problème de généralisation demeure le défi central du domaine. Une direction prometteuse est de dépasser la détection spécifique à une méthode pour aller vers des approches fondées sur des propriétés plus fondamentales du contenu synthétique (physiques, biologiques ou statistiques) qui restent valides indépendamment du pipeline de génération utilisé. Les traces forensiques laissées par les modèles basés sur la diffusion représentent un domaine largement inexploré où des progrès significatifs sont à la fois possibles et urgents.

Le chemin vers le déploiement opérationnel reste l'un des défis les plus exigeants. Comme l'expérience APATE l'a montré, porter des méthodes de recherche au niveau de robustesse requis pour la pratique forensique demande un effort d'ingénierie logicielle substantiel qui ne doit pas être sous-estimé. Les projets futurs devront traiter cet effort comme un objectif de premier ordre dès le départ, avec des ressources dédiées et une collaboration étroite entre équipes de recherche et utilisateurs opérationnels.

Enfin, les six recommandations juridiques produites par le projet — couvrant l'utilisation des données biométriques, les obligations d'étiquetage, le consentement, les analyses d'impact sur la protection des données et la responsabilité des plateformes — fournissent des orientations pratiques pour les travaux futurs dans le contexte réglementaire français et européen.

La manipulation des images et de la voix représente une menace potentielle en termes de crimes tels que les campagnes de désinformation, la fraude à la sécurité, l'extorsion, les crimes en ligne contre les enfants ou les marchés illicites. Les techniques de deepfake sont largement disponibles, ce qui rend la génération de deepfakes facile. La qualité s'est considérablement améliorée. Il est désormais difficile de les détecter par une simple analyse visuelle. Par conséquent, il existe un besoin croissant d'outils de détection. Alors que plusieurs méthodes atteignent de bons taux d'erreur dans des scénarios contrôlés, aucun outil dédié n'est disponible pour les experts en criminalistique. L'objectif d'APATE est de fournir des méthodes de pointe pour détecter les deepfakes. Le projet vise à fournir une boîte à outils de techniques complémentaires, basées sur les parties audio ou image de la vidéo, exploitant des informations de bas niveau ou sémantiques, ou même dans une approche multimodale. Chaque outil adressera une famille différente de deepfakes, et sera accompagné d'une documentation détaillant les cas d'utilisation, les biais connus, le cadre de validation et la manière dont les résultats peuvent être interprétés. Le consortium comprend des experts en criminalistique du Service National de Police Scientifique (SPNS), ce qui garantit que les méthodes proposées seront utilisables, correctement décrites et traiteront efficacement les deepfakes trouvés dans les affaires criminelles. En outre, la littérature sur la génération de deepfakes sera continuellement examinée afin de surveiller les dernières techniques de génération de deepfakes; une préoccupation particulière sera d'éviter l'adaptation aux bases de données d'apprentissage. Le consortium comprend trois laboratoires de recherche (Centre Borelli à l'ENS Paris Saclay, EPITA, LIX à l'Ecole Polytechnique), le SNPS, et IDEMIA, leader mondial de la reconnaissance biométrique.