Recherche sur la vérification en temps réel de conformité légale et éthique de l'IA – RECOMP

Notre objectif ici est d'améliorer la fiabilité de l'IA dans la société en mettant en place un mécanisme de conformité en temps réel pour les normes légales et éthiques. Notre contribution est de construire un mécanisme de conformité en considérant les normes juridiques comme des contraintes dures qui doivent être satisfaites et les normes éthiques comme des contraintes faibles qui devraient être satisfaites autant que possible. Cette combinaison de conformité à de multiples normes n'a pas fait l'objet d'études et constitue l'un des éléments nouveaux du projet.
Nous conservons l'évolutivité en temps réel en introduisant un mécanisme d'évaluation partielle durant l'exécution d'un agent artificiel intelligent qui vérifie les normes légales et un calcul spéculatif qui vérifie les normes éthiques avec de multiples séquences possibles de comparaison de ces normes faibles. Il y a beaucoup de recherches qui travaillent sur le contrôle de conformité hors ligne des normes alors qu'il y a peu de recherches qui travaillent sur le contrôle de conformité en ligne. De plus, à notre connaissance, ces mécanismes de conformité en ligne ne vérifient que la violation des normes fortes alors qu'ils ne considèrent pas la violation des normes faibles puisqu'il faut réviser les normes en ligne. Nous avons étudié ici une telle méthode de révision de croyances en ligne dans des contraintes faibles appelées "calcul spéculatif " et nous appliquerons cette méthode à la révision de normes faibles. Pour autant que nous le sachions, il s'agit de la première tentative de formalisation de la révision des normes en ligne.
L'équipe japonaise travaille depuis longtemps sur le raisonnement juridique et le mécanisme de conformité hors ligne des normes juridiques et a proposé un langage de représentation juridique appelé PROLEG (PROLOG based LEGal reasoning system). L'équipe française a travaillé sur la formalisation de l'éthique en logique et s'est dotée d'un cadre rigoureux utilisant le calcul des événements qui représente le comportement temporel d'agents artificiels pour représenter diverses variations des normes éthiques. L'équipe allemande a travaillé sur des questions de représentation des connaissances telles que la modélisation des connaissances axées sur les aspects (métadonnées) et le raisonnement à l'aide de ces métadonnées d'aspect (raisonnement par champ d'application). Ils ont élaboré des outils et des normes pour représenter les règles (normes). Nous espérons développer un système unifié de traitement simultané de diverses normes telles que les normes juridiques et les normes éthiques. Leurs outils et normes seront utilisés pour décrire diverses normes. Par conséquent, la combinaison de trois équipes est essentielle pour atteindre notre objectif. De plus, nous nous attendons aussi à ce que la combinaison de normes juridiques et de normes éthiques suscite des interactions intéressantes entre elles et amène de nouveaux sujets de recherche pour comprendre plus profondément la nature des raisonnements normatifs.
Si nous réussissons ce projet, nous nous attendons à accroître la fiabilité des agents artificiels.