Méthodes formelles pour l'analysis et le développement de systèmes cyber-physiques intégrant l'intelligence artificielle – CyphAI

L'intelligence artificielle (IA) révolutionne les systèmes d'information utilisés pour la commande et la supervision de divers appareils (tels que capteurs, robots, dispositifs IoT). Parmi ces systèmes d'information se trouvent les systèmes cyber-physiques (CPS) d'où émerge une nouvelle génération de systèmes cyber-physiques dits « intensifs en IA » que nous appelons AI-CPS (AI-intensive Cyber-Physical Systems). Les véhicules autonomes sont des exemples illustrant la synergie entre les CPS et l'IA. Le système de commande bas niveau de la motorisation est un CPS « classique », et la commande de haut niveau utilise des composants de l'IA pour, par exemple, interpréter le contexte comprenant l’état de la route et de la circulation et y réagir.
Les AI-CPS posent plusieurs défis de conception. Les composants de l'IA sont « imprévisibles » en raison d'un manque de cadre formel pour fournir des garanties de sûreté. De plus, les méthodes existantes de conception des CPS reposent sur des modèles fixes, tandis que les AI-CPS sont censés apprendre par des interactions avec l'environnement et adapter leurs comportements. Il est impératif de veiller à ce que leurs composants d'apprentissage fonctionnent correctement. Les accidents de voiture autonome causés par des défaillances de l'IA sont des exemples réels frappants. En général, les résultats des activités d'apprentissage dans les composantes de l'IA ne sont pas facilement interprétables. Lors du couplage des CPS avec l'IA, l'hétérogénéité accrue des dynamiques et des comportements peut aggraver les problèmes de fiabilité et d'explicabilité, si les activités d'apprentissage ne sont pas correctement formalisées. Il est important de noter que les cadres existants pour formaliser les activités d'apprentissage ont été développés pour des environnements purement discrets ou continus, et que les extensions aux dynamiques hybrides des CPS sont rares et ad-hoc.
La combinaison des CPS et de l'IA ouvre également de nouvelles possibilités technologiques. En effet, on peut profiter des progrès de l'IA pour améliorer la conception de CPS en combinant des approches basées sur des modèles et celles basées sur des données. La conception basée sur des modèles a jusqu'à présent été une approche efficace pour CPS, en exploitant la technologie informatique afin de créer des modèles mathématiques complexes. Néanmoins, de nombreux phénomènes émergeant dans l'interaction entre les composants cyber-physiques et IA ne se prêtent pas à une analyse de premier principe et la découverte de leur dynamique devrait s'appuyer sur des données. Cependant, les modèles basés sur des données ne reflètent pas toujours des mécanismes de causalité. Les approches basées sur des modèles (boîte blanche) et basées sur des données (boîte noire) doivent être combinés, conduisant à une approche boîte grise qui sera développée dans ce projet. De plus, les techniques de l'IA peuvent être exploitées pour dériver des heuristiques efficaces et sûres si elles sont développées dans un cadre formel.
Le projet sera organisée en 5 thèmes couvrant les principaux problèmes de conception : (1) Apprentissage pour les CPS, (2) Apprentissage dans les CPS, (3) Validation de CPS et de AI-CPS, (4) Surveillance et commande en ligne, WP5 Études de cas, applications et outils.
Nous combinerons les méthodes formelles de l'informatique avec la théorie de la commande, er des outils de l'analyse fonctionnelle, l'optimisation, des équations différentielles, des probabilités et la statistique pour résoudre nos problèmes et établir la rigueur de nos solutions. En fournissant une méthodologie de conception intégrée et une plate-forme de calcul pour les AI-CPS, notre projet est conforme à l'orientation de recherche indiquée dans l'appel : « (2) La théorie et la technologie pour le raffinement des modèles mathématiques et l'application efficace des simulations basées sur la combinaison des approches basées sur des modèles et sur des données. »