Artificial and Natural Intelligence Toulouse Institute

Coordonné par la Comue de Toulouse, ANITI rassemble aujourd'hui 12 partenaires académiques et 31 partenaires industriels et est soutenu par la Région Occitanie et Toulouse Métropole.

Notre objectif est de rendre possible le développement et l’usage pérenne de l’IA dans les systèmes critiques, c’est-à-dire les systèmes dont la défaillance peut avoir des conséquences graves.

Pour cela, nous devons relever un certain nombre de dé?s que l’on peut classer en trois catégories. Ceux liés aux technologies de l’IA elle-même d’abord tels que la robustesse, les garanties de fonctionnement, l’explicabilité, la maitrise des biais . Une autre catégorie est liée aussi à la perception par les usagers, les citoyens ou les utilisateurs avec des questions d’acceptabilité sociale et sociétale. La troisième catégorie de dé?s concerne le manque de personnes quali?ées et compétentes en nombre su?sant pour assurer le développement et le déploiement massif de ces technologies.

Pour relever ces dé?s, nous avons développés des nouvelles méthodes permettant d’augmenter et parfois garantir la confiance de systèmes basés sur des intelligence artificielles. Certaines de ces méthodes consistent  à faire interagir l'IA symbolique ou les contraintes et structures mathématiques avec l'apprentissage automatique piloté par les données de manière novatrice et hybride, d’autres méthodes permettent de renforcer la confiance sur des modèles dit « boites noires » en apportant des informations par exemple sur la façon dont ces modèles utilisent les données d’entrées pour prendre leurs décisions ou encore en évaluant la robustesse des prédictions par rapport à un ensemble de perturbations.

Concrètement, nous avons élaboré une feuille de route commune avec nos partenaires industriels, organisée autour de trois programmes intégratifs (IP) : Acceptable AI, Certi?able AI et Collaborative AI. Ces IPs accueillent les travaux mêlant chercheurs de di?érentes disciplines et ingénieurs de di?érentes entreprises autours d’objectifs partagés, créant ainsi des synergies entre académiques mais aussi entre industriels. En outre, chaque programme s’appuie sur 12 thèmes clés, qui incluent non seulement les propriétés de base de la ?abilité, de la robustesse et de la transparence, mais aussi les conséquences que de tels systèmes ont sur les processus industriels, la collaboration homme-machine ou la société en général.

Trois projets d’ampleurs ont ainsi émergé : le projet DEEL regroupant une dizaine d’entreprises et cinq chaires sur la thématique de la certi?cation de systèmes à base d’IA, le projet TUPLES visant à construire des systèmes de plani?cation et d’ordonnancement de con?ance via des méthodes hybrides avec la contribution de trois universités et trois entreprises européennes, le projet COCOPIL s’appuyant là aussi sur des coopérations européennes pour développer une robotique adaptative communiquant avec l’humain au travers du langage naturel pour les environnements industriels nécessitant cette adaptabilité tels que les chaines d’assemblage aéronautiques. En 2023 , le projet CORAM Audiomobility2030 est venu compléter cette liste de projets structurants sur la  génération de système de dialogue en langage naturel au sein des voitures toujours plus intelligentes.

Ces projets s’appuient sur les 24 chaires qui fédèrent près de 121 chercheurs et 132 Phds et PoDs (dont 32 CIFREs), et sur la mise à disposition de près de 70 ingénieurs industriels.

Quelques chi?res et faits marquants sur nos activités de recherche :

 Plus de 136 publications, dont un tiers dans des conférences/journaux sélectifs A*/A avec environ 32% d'interdisciplinarité

 Des avancées sur la théorie de l’explicabilité et le développement de classi?eurs explicables. Le développement d’approches formelles mais aussi statistiques.

 Combinaison solveurs CSP / deep learning pour les problèmes computationnels di?ciles

 Progrès dans les analyses des biais et de l'équité avec application à des cas industriels.

 La combinaison des neurosciences, de la robotique et du langage pour la représentation multimodale dans la vision et le traitement automatique du langage.

 De nombreuses collaborations internationales et nationales :

au niveau international, avec des contributions aux projets H2020 TAILOR (via le CNRS) et COALA, au projet CREATE DesCartes du CNRS avec Singapour, et via des collaborations avec des instituts de recherche ou des universités en Inde, en Allemagne, au Canada, au Japon et aux Etats-Unis ; ces collaborations à l’international se sont intensifiées et nous avons pu ainsi obtenir des lettres de soutien de 20 partenaires académiques internationaux pour notre projet de Cluster ANITI

au niveau national, avec le programme Con?ance.AI et le réseaux 3IA (PRAIRIE sur la robotique, MIAI sur l'éthique et l'explicabilité, l’ensemble du réseau via un workshop des doctorants 3IA organisé en novembre 2021 à Toulouse puis l’année suivante à Grenoble)

 Des collaborations avec les organismes de certi?cation aéronautiques (EASA)  et de standardisation (EUROCAE, SAE, AFNOR, CEN-CENELEC) pour établir des lignes directrices pour la certi?cation des systèmes d’IA

Concernant la formation, nous agissons sur 3 échelles de temps : le développement d’une o?re de formation continue pour les besoins immédiats des entreprises, le développement et l’attractivité de l’o?re de formation initiale post-bac pour les besoins moyen terme et en?n un travail de fonds auprès du grand public, des lycées, collèges et écoles pour le développer le vivier des futurs étudiants, avec un focus particulier sur les jeunes ?lles pour participer au rééquilibrage des genres dans les métiers de l’IA.

Quelques chi?res et faits marquant :

 13 nouveaux parcours de formation en IA

 label unique ANITI attribué à 364 modules au sein de 52 parcours permettant d’atteindre dès 2022 l’objectif de doublement des e?ectifs étudiants

 création d'un catalogue de formation continue de près de 40 modules couvrant 3 niveaux d’expertise

 Lancement de EFELIA avec les trois autres 3IAs

 création et le déploiement d’un escape game pédagogique pour les lycées

 formation des enseignants pour les sensibiliser à l'IA, déconstruire les stéréotypes et susciter des vocations

Sur le volet développement économique en?n, nous avons mis l’accent sur les mécanismes de transfert de connaissances et agissons comme tiers de con?ance pour faciliter la coopération au sein de l’écosystème.

 + de 30 librairies open-source ont été développées et 15 focus technique avec des séances de démonstrations  ont été organisées regroupant à chaque fois une cinquantaine d’entreprises.

 propositions auprès des autorités de certi?cation telles que l’EASA ou d’autres autorités de réglementation de méthode pour répondre aux objectifs de certification de systèmes à base d’IA.

 test de méthodes avancées de ML sur des cas d'utilisation industriels, (atterrissage automatique d’avions, conduite autonome, contrôle qualité soudures)

 forte implication des partenaires industriels dans la plupart des projets (environ 16 % de publications co- écrites par des personnels industriels)

Nous avons également lancé deux startup et déposé 6 brevets et logiciels. Nous avons créé des liens forts avec l'écosystème local et en particulier avec les PME. Sur ce sujet nous sommes partenaires de l’EDIH OccitanIA lancé en 2023.

Début 2023 nous avons relancé un appel à chaires avec la convocation d’un jury international qui a sélectionné 34 propositions de chaires parmi 57 pour poursuivre un programme scientifique ambitieux sur l’IA de confiance  dans le cadre de l’appel IA CLUSTER. En 2024 ANITI a été Lauréat de cet appel et compte tenu du budget de 20Meuros alloué, 19 chaires ont été finalement retenues et lancées au troisième trimestre. 8 programmes intégratifs ont aussi été identifiés pour supporter nos objectifs de recherche et de transfert pour les domaines d’application cibles suivants : Le transport, l’industrie du futur et l’environnement. En ce qui concerne la formation des modules sur l’IA de confiance vont venir enrichir 11 masters et un nouveau master international dédié va être crée.