Co-construction adaptative et pérenne de l'éthique pour une IA de confiance – ACCELER-AI

Comme les applications de l’IA peuvent avoir un impact bénéfique/néfaste sur les humains, un débat existe sur la manière d'y intégrer des capacités éthiques. Cela incite les chercheurs à développer des systèmes compatibles avec des valeurs éthiques, en passant de « l'éthique de conception » à « l'éthique par conception » offrant la capacité de produire un comportement éthique grâce à l'intégration du raisonnement et de l'apprentissage de l'éthique. Pour ce faire, des exigences non fonctionnelles sont à satisfaire : Interopérabilité : faire face à l'hétérogénéité inhérente aux systèmes ; Pérennité : faire face à l'évolution durable des systèmes intelligents et de leur environnement ; Fiabilité : acceptablilité par la société. L'objectif du projet est de permettre la co-construction adaptative de l'éthique dans et pour un système intelligent pérenne répondant à ces exigences. Cela soulève 3 défis : IA centrée sur l'humain: comment le système atteint son objectif tout en suivant les principes éthiques et les valeurs humaines ; IA sûre: comment s'assurer que le système fonctionne dans des limites spécifiées tout en étant autonome pour apprendre l'éthique et s'adapter en réponse à l'évolution du contexte/des objectifs; IA adaptative: adaptation à la fois sur le plan technique (ouverture) et sur le plan sociétal (apprentissage tout au long de la vie, évolution des attentes des valeurs/normes morales acceptées). ACCELER-AI propose une recherche multidisciplinaire et adopte une perspective centrée sur l'humain pour investiguer la co-construction de « modèles éthiques » en couplant dynamiquement 3 processus adaptatifs: 1) injection de « données éthiques humaines » via une interaction homme-agent non invasive continue ; 2) apprentissage mutuel humain-machine tout au long de la vie d'un comportement éthique adaptatif ; 3) processus de régulation normative pour délimiter l'apprentissage de l'éthique.