IA FR-DE - Type 1 CR - Appel à projets bilatéral franco-allemand en intelligence artificielle (MESRI-BMBF) - Type 1 Collaboration de Recherche

Intelligence Artificielle Fiable et Robuste – TRAIN

Résumé de soumission

Les technologies d'intelligence artificielle (IA) sont capables de traiter de grandes quantités de données et permettent ainsi de résoudre de très nombreux problèmes de manière efficace et rapide. Alors que les avantages des technologies IA pour l'industrie et la société sont multiples, leur adoption reste lente et la valeur potentielle de l'IA n’est pas encore démontrée à grande échelle. Le projet TRAIN envisage de relever ce défi se concentre sur les deux principaux obstacles au déploiement de l'IA, à savoir le manque de robustesse et le manque de confiance.

Robustesse. Alors que la quantité de données disponibles pour les technologies IA a augmenté de façon exponentielle, leur qualité reste médiocre. L’IA est confrontée à plusieurs défis techniques, notamment l'hétérogénéité des données et les biais. En plus de ces défis techniques, l’IA doit aussi faire face à la possibilité d’attaques de sécurité qui visent à compromettre les résultats de prédiction des modèles IA.

Confiance. Il arrive souvent que l’IA traite des données personnelles et/ou confidentielles. L'apprentissage fédéré qui permet à des milliers de participants d’entraîner un modèle IA commun vise à garantir la protection des données puisque ces dernières ne quittent pas leur source. Cependant, le partage des paramètres du modèle commun peut potentiellement entraîner des fuites de données.

L'objectif du projet TRAIN est d'étudier ces deux défis de la phase d’entraînement de modèles jusqu'à leur déploiement et exécution. Pour la phase d’entraînement, nous nous focaliserons sur l’apprentissage fédéré et proposerons de nouvelles solutions robustes et sécurisées tout en protégeant la confidentialité des données. L’étude de la phase d’exécution, quant à elle, se portera aussi bien sur les algorithmes IA fédérés que centralisés. Les solutions développées seront ensuite évaluées à l’aide de cas d’usage de la vie réelle notamment dans le domaine de la Santé.

Coordination du projet

Marco Lorenzi (Centre de Recherche Inria Sophia Antipolis - Méditerranée)

L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.

Partenaire

Fraunhofer Institute for Production Technology
EURECOM EURECOM
Inria Centre de Recherche Inria Sophia Antipolis - Méditerranée
RUB Ruhr-University Bochum

Aide de l'ANR 1 596 020 euros
Début et durée du projet scientifique : mai 2023 - 48 Mois

Liens utiles

Explorez notre base de projets financés

 

 

L’ANR met à disposition ses jeux de données sur les projets, cliquez ici pour en savoir plus.

Inscrivez-vous à notre newsletter
pour recevoir nos actualités
S'inscrire à notre newsletter