HUmain-MAchine : Affectivité, INteraction et Ethique – HUMAAINE

Résumé: Les nouveaux usages des robots sociaux affectifs, des agents conversationnels et des systèmes dits «intelligents», dans des domaines aussi divers que la santé, l'éducation ou les transports, reflètent une phase de changements significatifs dans les relations homme-machine qui devrait recevoir une grande attention. Quel co-apprentissage, co-création et co-adaptation entre l’Homme et la Machine? En particulier, comment les personnes vulnérables seront-elles protégées contre les menaces potentielles provenant de ces nouveaux objets ? Les premiers résultats d’une pré-expérience originale, menée en juin 2019 par l’équipe de la chaire qui est proposée, en partenariat avec une école primaire, montrent qu’une machine à intelligence artificielle (robot Pepper ou Google Home) est plus efficace que les adultes pour “nudger” les jeunes enfants. L’objectif de la Chaire HUMAAINE est d’étudier ces interactions et ces relations afin d’auditer et de mesurer l’influence potentielle des systèmes affectifs sur l’être humain, et enfin d’aboutir à une conception de «systèmes éthiques by design» et de proposer des mesures d’évaluation. Les travaux scientifiques prévus portent sur la détection des émotions sociales dans la voix humaine et sur l’étude des manipulations dans le langage parlé et audio qui sont destinées à induire des changements dans le comportement de l’interlocuteur humain. Ce travail utilise également les contributions de l'économie comportementale mises en évidence par le récent lauréat du prix Nobel 2017 Richard Thaler, dans notre cas, appliqué aux interactions homme-machine. La feuille de route des travaux de la Chaire comprend des études expérimentales visant à évaluer les aspects éthiques et la confiance dans le couple homme-machine, ainsi que la démystification de ces technologies auprès du grand public, qui tend naturellement à l’anthropomorphisme. Ce projet combine la recherche scientifique en intelligence artificielle avec la mise en œuvre d'une méthodologie innovante pour évaluer et améliorer l'éthique de l'interaction affective HM, malgré l'opacité actuelle des systèmes d'IA. Ce projet met en avant une forte collaboration interdisciplinaire entre l'informatique affective, l'économie comportementale, la linguistique et le traitement du langage naturel. Les chercheurs diffuseront les résultats de la chaire par le biais de cours de master, et d'ateliers avec le Collège des Bernardins. HUMAAINE est soutenu par le CNRS-LIMSI, l'Institut Cognition (Institut Carnot), par le the future of society (Harvard Initiative for Learning and Teaching), ENSC (Bordeaux) et présente une grande synergie avec l'Institut DATAIA. La fondation Domicile, l'IRCEM et le Collège des Bernardins sont les premiers à soutenir HUMAAINE, suivis par des partenaires industriels (CareCever, Renault, etc.) et d'autres fondations (MAIF, Anne de Gaulle). Nous établissons également une coopération avec des équipes de recherche internationales au Japon (Osaka Univ.), En Allemagne (DFKI) et au Canada (Observatoire / MILA).