Explicabilité de l'intelligence artificielle pour la lutte contre le blanchiment d'argent – XAIforAML

Notre méthode consiste à:
- Dans un premier temps, resituer le dispositif LCB-FT dans son contexte global comprenant son environnement économique, réglementaire et légal (en particulier les droits de l'homme), et identifier les faiblesses actuelles du dispositif qui peuvent potentiellement être corrigées par l'IA ;
- Deuxièmement, étudier l'explicabilité dans les dispositifs LCB-FT, et identifier précisément l'objectif servi et l’audience ciblée par les explications. Nous nous concentrons sur le besoin (ou l’absence de besoin) d'explications par les opérateurs humains de la banque en charge de l'examen des alertes LCB-FT, et le besoin d'explications par les agents de l'autorité de contrôle (l’ACPR) qui peuvent exiger de connaître les raisons pour lesquelles une alerte donnée a été classée d'une certaine manière.
- Troisièmement, explorer l'utilité des réseaux de graphes pour compléter les méthodes existantes de détection de blanchiment de capitaux et le financement du terrorisme. Nous étudierons la capacité de ces outils à détecter des cas inhabituels qui ne sont pas couverts par les outils traditionnels et leur explicabilité.

Nous avons organisé avec l'autorité de supervision française ACPR-Banque de France une série d'ateliers en ligne («Les Lundis de l'IA et de la Finance«) portant sur différents aspects des outils d'IA utilisés par les institutions financières, notamment pour la LCB-FT. Chaque webinaire a réuni des universitaires, des régulateurs et des institutions financières de plusieurs pays, en rassemblant à chaque fois entre 150 et 300 participants.
Au cours de cette période, nous avons effectué des recherches considérables sur la manière dont l'introduction de l'IA dans les systèmes de LBC-FT peut menacer les droits de l'homme et avons fait des suggestions sur la manière dont les systèmes basés sur l'IA pourraient être introduits tout en garantissant le respect des droits et libertés fondamentaux. Ces recherches ont abouti à la publication de deux articles dans des revues à examen par des pairs. (Voir la section sur les publications)
Astrid Bertrand, doctorante, a étudié l'efficacité de diverses techniques d'explication pour aider les opérateurs humains à prendre des décisions sans être victimes de biais d'automatisation.
Nous avons développé avec une grande institution financière française un projet de recherche sur l'explicabilité pour la LCB-FT dans lequel interviennent les réseaux de graphes.

L'autorité de contrôle française ACPR-Banque de France est étroitement associée à nos travaux et a indiqué que le projet «aborde un sujet d’intérêt public à double titre puisqu’il s’agit de concilier les exigences de la lutte contre le blanchiment avec les droits des clients, notamment leurs droits fondamentaux, dans un contexte où l’IA ouvre des perspectives inédites.«

Nos ambitions pour 2022 sont les suivantes :
- Publier le document de travail de la doctorante Astrid Bertrand sur les pièges potentiels de l'IA explicable dans une conférence internationale sur l'intelligence artificielle ;
- Mener une expérience et publier un article sur l'efficacité de différentes techniques d'explication de l'IA pour les régulateurs qui contrôlent les décisions algorithmiques de clôture des alertes de LCB-FT ;
- Lancer la recherche avec une grande institution financière sur l'utilisation des réseaux de graphes à la fois pour détecter les activités suspectes et pour faciliter les explications ;
- publier un article de recherche par Joshua Brand, chercheur invité, sur les exigences morales et éthiques de l'IA explicable dans le domaine du blanchiment d'argent ;
Si les conditions sanitaires liées à la COVID-19 le permettent, organiser une série d'ateliers en ligne, OU un symposium international sur le rôle de l'IA dans l'amélioration des processus LCB-FT et le respect des droits fondamentaux.

Publications dans des revues à comité de lecture:
W. Maxwell, The GDPR and private-sector measures to detect criminal activity, Revue des Affaires Européennes, 2021 n°1, p. 103 (HAL 03316259)

A. Bertrand, W. Maxwell, X. Vamparys, Do AI-based anti-money laundering (AML) systems violate European fundamental rights ? 11 Int’l Data Privacy Law (Oxford University Press), No. 3, 2021, p. 276 (HAL 02884824)

Conférences internationales: W. Maxwell, Are AI-based AML systems compatible with European fundamental rights ? ICML2020 Law and Machine Learning workshop, July 17, 2020

AI, AML and Human Rights, presentation at Academy of European Law (ERA) workshop on Artificial intelligence and financial transparency as a national security priority, 26 January 2022.

Atéliers organisés avec l’ACPR-Banque de France:

Les lundis de l’IA et de la Finance, par l’ACPR-Banque de France et Télécom Paris :
1. L’explicability de l’IA en finance, 9 novembre 2020
2. L’équité dans les algorithmes, 11 janvier 2021
3. Partage et mise en commun des données dans la finance, 8 mars 2021
4. AI regulation in the financial sector : crossed perspectives from Asia and Europe, 17 May 2021

La chaire XAI4AML (IA explicable pour lutter contre le blanchiment d’argent) explorera comment l’intelligence artificielle (IA) affecte le niveau optimal de régulation financière, et en particulier comment différents niveaux d’explicabilité peuvent affecter les coûts et bénéfices du déploiement de solutions IA pour lutter contre le blanchiment d’argent (AML).
Les approches traditionnelles utilisées par les banques pour lutter contre le blanchiment d'argent sont coûteuses (20 milliards d'euros par an en Europe) et relativement inefficaces, car elles reposent sur des modèles déterministes fondés sur des règles. Les systèmes AML actuels génèrent de nombreux faux positifs et laissent passer de grandes quantités de transactions réellement suspectes. L'IA peut réduire les faux positifs et apporter une plus grande efficacité en identifiant des tendances invisibles dans de grands ensembles de données. Cependant, les problèmes d’explicabilité, ainsi que l’incertitude réglementaire, sont les principaux obstacles à la mise en œuvre de l’IA dans les systèmes d’AML.
Cette chaire interdisciplinaire combinant économie, droit (avec Winston Maxwell, directeur droit et technologie) et IA/science des données (Stéphan Clémençon, professeur de mathématiques appliquées), contribuera à la littérature économique consacrée à l'économie de la régulation et de la criminalité financière, tout en contribuant à un besoin opérationnel de clarté sur ce que constitue un système d'IA explicable pour lutter contre le blanchiment d’argent. Les résultats auront un impact positif sur les concepteurs de systèmes AML basés sur l'IA (comme la fintech française Bleckwen, partenaire de la chaire), sur les utilisateurs des systèmes (telles que les banques et les cabinets de conseil, en particulier PWC qui est spécialisé dans les opérations bancaires et la conformité, partenaire de la chaire) et sur le régulateur financier (l'ACPR, partenaire de la chaire).