Partage de contrôle et de décision entre l'humain et l'intelligence artificielle – HAISCoDe

Nous proposons un programme de recherche de 10 thèses, coordonné par la ComUE Normandie Université (NU). Ces thèses seront cofinancées par la région Normandie, en accord avec sa stratégie pour la recherche et l'innovation.

Le programme vise à développer de nouvelles approches d'intelligence artificielle (IA), pour des contextes où humains et intelligence artificielle contrôlent un système et prennent des décisions ensemble. Un exemple est le cas des véhicules autonomes, pour lesquels l'essentiel du pilotage est automatique, mais l'humain doit prendre le contrôle dans des situations spécifiques (visibilité réduite, par exemple). Un autre exemple est le diagnostic médical basé imagerie, où l'IA assiste les praticiens dans la tâche fastidieuse de l'analyse d'images, en portant leur attention sur les images, ou les parties, les plus informatives. Citons encore le cas d'une organisation complexe, comme un port, dans laquelle les décisions humaines sur la gestion du trafic doivent être éclairées par des modèles et des outils de prédiction, qui tirent parti de connaissances expertes.

Notre objectif est de développer des techniques d'IA ambitieuses et nouvelles pour de tels contextes, et d'explorer leurs propriétés fondamentales, selon deux axes, comme suggéré par ces exemples :
- le partage de contrôle, où humain et IA contrôlent ensemble un système dans une boucle interactive (par exemple, le contrôle allant et venant du pilote automatique au pilote humain),
- le partage de décisions, où l'interaction suit deux phases (p.ex., une segmentation d'images médicales par l'IA, suivie de décisions du praticien basées sur cette segmentation).

Ces thèmes sont très actifs à NU, avec de nombreuses équipes à la réputation nationale et internationale solide. Une valeur ajoutée de ce projet sera de faciliter l'interaction entre chercheurs et doctorants des deux axes, autour des nombreuses questions communes: prise en compte des connaissances humaines, modélisation de ses attentes, explicabilité, fiabilité, robustesse, éthique, etc.

Cet objectif général sera instancié sur des principaux domaines d'application, pour lesquels NU a des forces importantes : le transport et la santé. En effet, la Normandie a une importante expertise sur ces domaines, et plus précisément sur le véhicule autonome, la logistique et l'imagerie médicale. Elle a de plus d'importantes infrastructures, en particulier le Port du Havre (2e plus important en France, 11e en Europe), la plateforme ARCHADE (hadronthérapie) et la plateforme CYCERON (imagerie médicale) à Caen, et le Rouen Normandy Autonomous Lab pour le véhicule autonome.

Ces applications guideront les travaux vers des facettes de l'IA pour lesquelles NU a des équipes et des chercheurs internationalement renommés. Citons notamment la décision automatique et la planification en interaction avec l'humain ; l'apprentissage, en particulier profond ; l'optimisation discrète et continue ; l'extraction de connaissances et l'analyse de données ; les systèmes multi-agents. De plus, au carrefour de ces techniques, on trouve des problèmes scientifiques communs importants, comme l'optimisation en grande dimension et la modélisation des données, connaissances, utilisateurs et systèmes.

Nous proposons de financer 10 sujets de thèse sur ces thèmes d'actualité, avec une stratégie pour faciliter leur interaction, via des journées scientifiques tenues régulièrement durant le projet. Notre projet n'inclut pas une liste définitive de sujets, car la recherche et l'innovation dans les champs visés évoluent très vite. Nous ouvrirons un appel à sujets dès le projet accepté, ferons évaluer les sujets et les candidats par des experts extérieurs, et choisirons ceux à financer en fonction de ces évaluations et d'un équilibre entre les axes donnés ci-dessus ; un processus similaire est utilisé depuis plusieurs années à NU avec succès.