CE28 - Cognition, comportements, langage

Sentiment d'Agentivité dans une Société Automatisée – SAGAS

Résumé de soumission

L'essor de l'intelligence artificielle (IA) a profondément remodelé notre quotidien, notamment par l'automatisation d'un nombre croissant d’activités telles que la conduite, la cuisine ou la fabrication industrielle. Cette croissance constante de l'automatisation entraîne des avantages évidents en termes de sécurité humaine ou de productivité industrielle. Néanmoins, on peut légitimement se demander si les utilisateurs se sentent maîtres et responsables d’actions et résultats qui sont principalement réalisés – et parfois décidés – par des machines. En effet, l'interposition de systèmes d'IA entre les utilisateurs et les processus de contrôle soulève d’importantes questions concernant le sentiment d’agentivité (SA) des individus évoluant dans une société de plus en plus automatisée. Le SA est un processus crucial non seulement pour l'expérience utilisateurs et l'acceptabilité des systèmes, mais aussi au regard des conséquences éthiques et cognitives de son altération. À notre connaissance, il n'existe pas de directives dédiées au développement de systèmes autonomes qui soient respectueuses de l'agentivité humaine. Ce projet de recherche visera donc à explorer les voies possibles pour restaurer le SA chez les opérateurs interagissant avec des systèmes d'IA, dans des contextes proches de situations de la vie quotidienne. Notre objectif sera double. Premièrement, via une approche centrée sur l’utilisateur, nous étudierons comment l’explicabilité des actions et décisions de l’IA (XAI), pourrait être optimisée pour améliorer le SA des agents humains, en utilisant des paradigmes expérimentaux originaux et réalistes, simulant des situations de conduite autonome. Deuxièmement, nous explorerons de nouveaux marqueurs d’agentivité au niveau physiologique afin de fournir des mesures objectives pouvant être utilisées dans des interactions complexes et continues telle que la conduite autonome. En implémentant le modèle hiérarchique d'intentions et la théorie de la co-représentation d'action dans le cadre de l'IA explicable, nous pensons que l'interaction homme-machine pourrait se rapprocher d'une action conjointe naturaliste, ce qui devrait améliorer le SA des utilisateurs.

Coordination du projet

Valérian Chambon (Ecole Normale Supérieure Paris)

L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.

Partenaire

Ecole Normale Supérieure Paris
ALTRAN LAB

Aide de l'ANR 371 237 euros
Début et durée du projet scientifique : septembre 2022 - 48 Mois

Liens utiles

Explorez notre base de projets financés

 

 

L’ANR met à disposition ses jeux de données sur les projets, cliquez ici pour en savoir plus.

Inscrivez-vous à notre newsletter
pour recevoir nos actualités
S'inscrire à notre newsletter