Une approche adaptative pour l'apprentissage robuste. – ADAR

En apprentissage statistique, la notion de risque est influencée par divers facteurs, tels que la variabilité des données, l'instabilité des algorithmes, les contraintes d'équité et de confidentialité, ainsi que les changements imprévisibles de l'environnement. L'Optimisation Robuste aux Distributions (ORD) s'attaque à ces défis en optimisant les modèles sur des distributions de données hypothétiques, renforçant ainsi leur robustesse et fiabilité. Ce cadre suscite un intérêt croissant dans plusieurs domaines de l'intelligence artificielle, comme l'apprentissage équitable, la classification adversariale, l'apprentissage par renforcement et l'apprentissage fédéré. Il est reconnu comme l'une des approches les plus avancées pour garantir la sécurité des systèmes d'apprentissage machine, un impératif souligné par l'AI Act européen.

Malgré son potentiel prometteur pour améliorer la robustesse des modèles d'apprentissage, l'application pratique de l'ORD se heurte à plusieurs limitations. L'une des principales difficultés réside dans l'intractabilité computationnelle des méthodes existantes, ce qui pose un problème pour les modèles à grande échelle typiques de l'apprentissage machine. En outre, les approches traditionnelles de l'ORD manquent parfois de flexibilité pour s'adapter à la nature changeante des données ou à la modélisation des risques telle que définie par les utilisateurs. Le projet ADAR a pour objectif de dépasser ces limites en développant des méthodes adaptatives spécifiquement conçues pour traiter les problèmes point-selle à grande échelle de l'ORD. En combinant des techniques avancées d’optimisation numérique, de la théorie des mesures de risque et de l’optimisation stochastique, ces nouvelles méthodes visent à améliorer à la fois l'efficacité et la flexibilité de l'ORD, la rendant ainsi mieux adaptée aux tâches complexes et de grande envergure en apprentissage machine.