Monitoring passif ou actif et audit de modèles – PACMAM

Nous sommes aujourd'hui entourés d'algorithmes qui prennent des décisions nous concernant. Ces algorithmes, souvent constitués par des modèles complexes d'apprentissage automatique, fonctionnent comme des boîtes noires : leurs processus internes sont opaques pour les utilisateurs finaux et les auditeurs (qui sont chargés de faire respecter l'équité de ces modèles). Dans ce contexte, le projet PACMAM cherche à accroître la transparence des décisions algorithmiques en jetant les bases d'un audit efficace des boîtes noires des modèles à grande capacité sous contrainte budgétaire. Le projet se concentrera sur les stratégies d'apprentissage actif pour l'audit qui ont été récemment introduites dans la littérature, mais dont l'applicabilité à des cas concrets reste incertaine. La recherche proposée est organisée en trois groupes de travail (WP), chacun d'entre eux abordant un défi fondamental dans ce domaine de recherche. Le WP1 vise à comprendre comment l'efficacité de l'audit est affectée par la capacité d'un modèle, en s'appuyant sur des mesures telles que la VC dimension et la complexité de Rademacher. Ces informations aideront les auditeurs à trouver un équilibre entre le budget d'interrogation et la précision de leur audit. S'appuyant sur le WP1, le WP2 s'attache à rendre l'audit actif pratique pour les modèles de grande capacité en identifiant des moyens efficaces de sélectionner les entrées optimales et en déterminant ce que les auditeurs doivent savoir sur les modèles audités pour réussir. Enfin, le WP3 étudie comment les modèles fréquemment mis à jour peuvent être contrôlés efficacement. L'objectif est de réduire le budget d'interrogation nécessaire pour surveiller en permanence un modèle en évolution. PACMAM fournira ainsi les bases d'un audit efficace des modèles évolutifs à haute capacité. Le projet veillera à ce que toute solution développée soit mise en œuvre rapidement grâce à l'implication du PEReN, le service interministériel d'expertise sur la régulation algorithmique.