Vers une intelligence artificielle sûre pour la mobilité – Raimo

Les résultats attendus s’obtiennent grâce à une chaîne de méthodes complémentaires. D’abord, nous entraînons les modèles de perception et de décision pour qu’ils restent fiables malgré de petites perturbations des données (éclairage, bruit, occlusions), en posant l’apprentissage comme une optimisation qui équilibre précision et prudence. Ensuite, nous traduisons des exigences de sécurité en problèmes de programmation mathématique avec variables entières, capables de fournir une preuve qu’un modèle respecte des limites de comportement sur un périmètre défini. Pour passer à l’échelle, nous utilisons des approximations contrôlées et une initialisation guidée qui réduit le temps de calcul. Nous gérons le passage du laboratoire à la route en détectant les écarts entre données d’entraînement et données réelles, et en activant des décisions plus conservatrices en cas de doute. Côté capteurs, nous combinons caméras, capteurs laser, radars et audio pour repérer des situations inhabituelles et des objets inconnus. Enfin, les solutions sont évaluées sur des véhicules, avec des tests en réalité mixte pour rejouer des scénarios critiques de façon sûre avant validation en conditions réelles.

RAIMo a fait progresser la sûreté de l’IA pour la mobilité : méthodes de robustesse/certification face aux attaques adverses et optimisation globale (MIP/branch-and-bound) pour des perturbations parcimonieuses quasi invisibles. Côté perception, briques multimodales originales (polarimétrie, détection d’objets inconnus ADOS, audio) et tests en réalité mixte validés avec le Rouen Autonomous Lab/TIGA. Retombées : publications (ECML/PKDD, NeurIPS, IEEE T-ITS) et poursuite sur la détection de nouveauté via une chaire ANR.

Les perspectives du projet RAIMo s’articulent autour du renforcement des garanties formelles de robustesse des modèles d’apprentissage profond, en particulier via l’intégration avancée de la programmation mixte en nombres entiers pour la certification, l’entraînement contraint et la mesure fine de la robustesse. Le développement d’un solveur MIP spécialisé, capable de passer à l’échelle, constitue un levier stratégique pour traiter des architectures profondes plus complexes. Sur le plan applicatif, RAIMo a proposé des amélioration de l’adaptation de domaine robuste fondée sur le transport optimal et la distance de Wasserstein, ainsi que l’intégration avancée de la fusion multimodale (vision, LiDAR, radar, audio) pour une perception fiable en conditions dégradées. La détection de nouveauté et des données hors distribution demeure un axe prioritaire pour limiter la sur-confiance des systèmes. Enfin, la validation expérimentale sur véhicules autonomes permettra de consolider les garanties de sûreté et d’acceptabilité.

Depuis le lancement de RAIMo, la production scientifique s’est structurée autour de la robustesse et de la certification des modèles profonds : un article de revue (Metrika 2023) et plusieurs contributions en conférences (ITSC/IV, ECML-PKDD, ACML, NeurIPS 2024) sur attaques adverses, optimisation MIP et transport optimal. Aucun brevet n’a encore été déposé, mais certaines briques (attaques parcimonieuses « invisibles », perception polarimétrique) présentent un potentiel de valorisation.

Les progrès récents en intelligence artificielle dans le domaine de l'apprentissage statistique en général et celui des réseaux de neurones profonds en particulier, permettent d'envisager l'utilisation de ces technologies dans la conception de véhicules de plus en plus autonomes. Mais avant que ce futur proche ne devienne réalité et que nos routes soient plus sures, avec des algorithmes remplaçant les conducteurs humains, il est nécessaire de savoir attester la qualité des décisions prises.

Le projet de chaire "vers une intelligence artificielle sure pour la mobilité" est une proposition de recherche visant à renforcer une dynamique de recherche locale autour de questions liées aux problèmes de sécurité associés à l’application de l’intelligence artificielle à la mobilité. Pour atteindre cet objectif il s’attachera à poser le problème formellement, à proposer des algorithmes permettant de le résoudre et à démontrer sa faisabilité sur des véhicules autonomes roulant dans des conditions réelles de conduite.

Pour établir des certificats de sécurité, une première idée du projet est de développer la théorie associée en formalisant cette exigence comme un problème d'optimisation multi-objectif/multi-niveau visant à la fois à apprendre le modèle prédictif et à garantir la qualité de cet apprentissage. Ce problème d'optimisation, un programme mixte en nombre binaire, est très complexe et ne passe pas à l'échelle. L'enjeu est donc de travailler sur la formalisation, les relaxations et les algorithmes de résolution. Le but est de construire et entrainer, en un temps raisonnable, des réseaux de neurones profonds dont on peut prouver la robustesse, éventuellement associée à l'explicabilité et l'interprétabilité de ces modèles de type boite noire.

La deuxième voie de recherche du projet consiste à assurer la sécurité des réseaux de neurones profonds dans le cadre de la mobilité par le suivi et la surveillance des processus de décision. Un moyen est la perception multimodale redondante incluant le traitement des données audio et vidéo acquises par différentes modalités incluant la polarimétrie et les questions de fusion associées dans le cadre de l'apprentissage profond. Un autre aspect important est la surveillance des processus de décision en incorporant des mécanismes de détections d'anomalies et de perception aberrante. Le moyen privilégié pour atteindre cet objectif est la formalisation du problème dans le cadre de tests d'hypothèses robustes sur des entrées multi-modales via la théorie du transport optimal pour la découverte de nouveautés.

La troisième partie du projet concerne la mise en œuvre de ces solutions proposées~: tester les solutions proposées dans des conditions réelles de circulation sur de véritables véhicules autonomes avec des passagers. Pour cela, ce projet de chaire s’articule avec le Rouen Autonomous Lab, qui dispose déjà d’une flotte de quatre véhicules autonomes sur site, et le programme PIA3 TIGA « Rouen Normandie Mobilité Intelligente pour Tous – pour un système intégré de mobilité multimodale et décarbonée ».

Le projet de chaire interviendra, au sein de l'INSA Rouen Normandie dans le cadre de Normandie Université, à tous les niveaux de la formation d'ingénieurs et dans la formation par la recherche. A cet égard, il travaillera avec le projet d'école universitaire de recherche (EUR) normande MINMACS dans le domaine de l'IA sure pour la mobilité.

Pour atteindre ces ambitions et faire du Campus du Madrillet en Normandie une référence internationale dans le domaine de l'IA sure pour la mobilité, la chaire bénéficiera d'une équipe de trois professeurs alliant les compétences scientifiques nécessaires, du soutien de l'INSA et de l'université de Rouen Normandie, des laboratoires de recherche locaux et nationaux faisant de l'IA, des ressources du CRIANN, le centre de calcul régional sur site et de l'appui du Rouen Autonomous Lab et de ses quatre véhicules autonomes opérant sur site.