ChairesIA_2019_2 - Chaires de recherche et d'enseignement en Intelligence Artificielle - vague 2 de l'édition 2019

Explicabilité de l'intelligence artificielle pour la lutte contre le blanchiment d'argent – XAIforAML

L’IA peut améliorer la lutte contre le blanchiment de capitaux et le financement du terrorisme (LCB-FT), mais ces outils ne seront pas adoptés tant qu’il ne seront pas explicables.

Les systèmes actuels de LCB-FT sont coûteux. Ils s’appuient sur des algorithmes à base de règles préétablies, ils émettent un grand nombre de faux positifs, et leur contribution réelle à la saisie des fonds criminels est controversée. Les outils d’IA offrent de nouvelles perspectives pour améliorer l’efficacité de la LCB-FT, mais des incertitudes sur le plan réglementaire, notamment concernant le manque d’explicabilité des algorithmes d’apprentissage automatique, est un frein majeur.

Identifier les besoins d'IA explicable du point de vue des banques déployant les systèmes LCB-FT et du point de vue des autorités de régulation en charge de les contrôler

Les institutions financières et les autorités de régulation souhaitent introduire dans les systèmes LCB-FT des outils d’IA plus sophistiqués. Les institutions financières voient l’IA comme un moyen de réduire les coûts. Les autorités de régulation voient l’IA comme un moyen de détecter des réseaux de criminalité qui échappent actuellement aux moyens de détection existants. Selon le directeur d’Europol, seulement 1% des fonds issus d’activités criminelles sont effectivement saisis. Les outils de détection de LCB-FT s’appuient actuellement sur des scénarios à base de règles préétablies. Ces outils créent des alertes qui nécessitent un examen par des opérateurs humains. Une grande partie des alertes (plus de 90%) sont des faux positifs, et l’examen des alertes par des opérateurs humains crée des retards dans le traitement, et un stock d’alertes non-traitées parfois important. L’adoption d’outils d’apprentissage automatique dans les systèmes de LCB-FT a été lente voire inexistante jusqu’à maintenant, l’une des raisons étant l'incertitude réglementaire associée à l'utilisation d'algorithmes opaques et à certains égards imprévisibles, dans une fonction hautement réglementée où des sanctions élevées s'appliquent si les systèmes sont jugés inadéquats par le régulateur. Avec l'appui de nos partenaires PwC et DataIku, notre projet a pour ambition de déterminer en quoi et pour qui l’explicabilité est importante dans les systèmes LCB-FT, et quelles formes et méthodes d’explicabilité sont les plus efficaces pour répondre aux besoins identifiés? Nous développerons ensuite des approches, à la fois sur le plan réglementaire et sur le plan technique, qui contribueront à lever les freins autour de l’explicabilité, et faciliter ainsi l’introduction d’outils d’IA dans les systèmes de LCB-FT.

Notre méthode consiste à:
- Dans un premier temps, resituer le dispositif LCB-FT dans son contexte global comprenant son environnement économique, réglementaire et légal (en particulier les droits de l'homme), et identifier les faiblesses actuelles du dispositif qui peuvent potentiellement être corrigées par l'IA ;
- Deuxièmement, étudier l'explicabilité dans les dispositifs LCB-FT, et identifier précisément l'objectif servi et l’audience ciblée par les explications. Nous nous concentrons sur le besoin (ou l’absence de besoin) d'explications par les opérateurs humains de la banque en charge de l'examen des alertes LCB-FT, et le besoin d'explications par les agents de l'autorité de contrôle (l’ACPR) qui peuvent exiger de connaître les raisons pour lesquelles une alerte donnée a été classée d'une certaine manière.
- Troisièmement, explorer l'utilité des réseaux de graphes pour compléter les méthodes existantes de détection de blanchiment de capitaux et le financement du terrorisme. Nous étudierons la capacité de ces outils à détecter des cas inhabituels qui ne sont pas couverts par les outils traditionnels et leur explicabilité.

Nous avons organisé avec l'autorité de supervision française ACPR-Banque de France une série d'ateliers en ligne («Les Lundis de l'IA et de la Finance«) portant sur différents aspects des outils d'IA utilisés par les institutions financières, notamment pour la LCB-FT. Chaque webinaire a réuni des universitaires, des régulateurs et des institutions financières de plusieurs pays, en rassemblant à chaque fois entre 150 et 300 participants.
Au cours de cette période, nous avons effectué des recherches considérables sur la manière dont l'introduction de l'IA dans les systèmes de LBC-FT peut menacer les droits de l'homme et avons fait des suggestions sur la manière dont les systèmes basés sur l'IA pourraient être introduits tout en garantissant le respect des droits et libertés fondamentaux. Ces recherches ont abouti à la publication de deux articles dans des revues à examen par des pairs. (Voir la section sur les publications)
Astrid Bertrand, doctorante, a étudié l'efficacité de diverses techniques d'explication pour aider les opérateurs humains à prendre des décisions sans être victimes de biais d'automatisation.
Nous avons développé avec une grande institution financière française un projet de recherche sur l'explicabilité pour la LCB-FT dans lequel interviennent les réseaux de graphes.

L'autorité de contrôle française ACPR-Banque de France est étroitement associée à nos travaux et a indiqué que le projet «aborde un sujet d’intérêt public à double titre puisqu’il s’agit de concilier les exigences de la lutte contre le blanchiment avec les droits des clients, notamment leurs droits fondamentaux, dans un contexte où l’IA ouvre des perspectives inédites.«

Nos ambitions pour 2022 sont les suivantes :
- Publier le document de travail de la doctorante Astrid Bertrand sur les pièges potentiels de l'IA explicable dans une conférence internationale sur l'intelligence artificielle ;
- Mener une expérience et publier un article sur l'efficacité de différentes techniques d'explication de l'IA pour les régulateurs qui contrôlent les décisions algorithmiques de clôture des alertes de LCB-FT ;
- Lancer la recherche avec une grande institution financière sur l'utilisation des réseaux de graphes à la fois pour détecter les activités suspectes et pour faciliter les explications ;
- publier un article de recherche par Joshua Brand, chercheur invité, sur les exigences morales et éthiques de l'IA explicable dans le domaine du blanchiment d'argent ;
Si les conditions sanitaires liées à la COVID-19 le permettent, organiser une série d'ateliers en ligne, OU un symposium international sur le rôle de l'IA dans l'amélioration des processus LCB-FT et le respect des droits fondamentaux.

Publications dans des revues à comité de lecture:
W. Maxwell, The GDPR and private-sector measures to detect criminal activity, Revue des Affaires Européennes, 2021 n°1, p. 103 (HAL 03316259)

A. Bertrand, W. Maxwell, X. Vamparys, Do AI-based anti-money laundering (AML) systems violate European fundamental rights ? 11 Int’l Data Privacy Law (Oxford University Press), No. 3, 2021, p. 276 (HAL 02884824)

Conférences internationales: W. Maxwell, Are AI-based AML systems compatible with European fundamental rights ? ICML2020 Law and Machine Learning workshop, July 17, 2020

AI, AML and Human Rights, presentation at Academy of European Law (ERA) workshop on Artificial intelligence and financial transparency as a national security priority, 26 January 2022.

Atéliers organisés avec l’ACPR-Banque de France:

Les lundis de l’IA et de la Finance, par l’ACPR-Banque de France et Télécom Paris :
1. L’explicability de l’IA en finance, 9 novembre 2020
2. L’équité dans les algorithmes, 11 janvier 2021
3. Partage et mise en commun des données dans la finance, 8 mars 2021
4. AI regulation in the financial sector : crossed perspectives from Asia and Europe, 17 May 2021

La chaire XAI4AML (IA explicable pour lutter contre le blanchiment d’argent) explorera comment l’intelligence artificielle (IA) affecte le niveau optimal de régulation financière, et en particulier comment différents niveaux d’explicabilité peuvent affecter les coûts et bénéfices du déploiement de solutions IA pour lutter contre le blanchiment d’argent (AML).
Les approches traditionnelles utilisées par les banques pour lutter contre le blanchiment d'argent sont coûteuses (20 milliards d'euros par an en Europe) et relativement inefficaces, car elles reposent sur des modèles déterministes fondés sur des règles. Les systèmes AML actuels génèrent de nombreux faux positifs et laissent passer de grandes quantités de transactions réellement suspectes. L'IA peut réduire les faux positifs et apporter une plus grande efficacité en identifiant des tendances invisibles dans de grands ensembles de données. Cependant, les problèmes d’explicabilité, ainsi que l’incertitude réglementaire, sont les principaux obstacles à la mise en œuvre de l’IA dans les systèmes d’AML.
Cette chaire interdisciplinaire combinant économie, droit (avec Winston Maxwell, directeur droit et technologie) et IA/science des données (Stéphan Clémençon, professeur de mathématiques appliquées), contribuera à la littérature économique consacrée à l'économie de la régulation et de la criminalité financière, tout en contribuant à un besoin opérationnel de clarté sur ce que constitue un système d'IA explicable pour lutter contre le blanchiment d’argent. Les résultats auront un impact positif sur les concepteurs de systèmes AML basés sur l'IA (comme la fintech française Bleckwen, partenaire de la chaire), sur les utilisateurs des systèmes (telles que les banques et les cabinets de conseil, en particulier PWC qui est spécialisé dans les opérations bancaires et la conformité, partenaire de la chaire) et sur le régulateur financier (l'ACPR, partenaire de la chaire).

Coordinateur du projet

Monsieur David Bounie (Telecom Paris)

L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.

Partenaire

TP Telecom Paris

Aide de l'ANR 600 000 euros
Début et durée du projet scientifique : février 2020 - 48 Mois

Liens utiles

Explorez notre base de projets financés

 

 

L’ANR met à disposition ses jeux de données sur les projets, cliquez ici pour en savoir plus.

Inscrivez-vous à notre newsletter
pour recevoir nos actualités
S'inscrire à notre newsletter