Évaluation robuste de l'IA générative dans des environnements réels – REGARD

Ce projet vise à faire progresser l'évaluation des systèmes de génération du langage en améliorant la compréhension de leur comportement et leur impact sur diverses dimensions, telles que les environnements de travail et le bien commun. Il vise à définir et mesurer la performance, la généralisation et la robustesse des modèles de génération de langage (LLM) dans des contextes réels car leur déploiement dans des contextes applicatifs entraîne des défis importants à la fois au niveau du traitement des entrées atypiques, mais aussi de la production de sorties indésirables. De plus, leur impact plus large sur la productivité, les environnements de travail, les marchés du travail et la cohésion sociale n'est pas bien évalué.
Nous proposons d'intégrer des perspectives sociales, algorithmiques et théoriques dans l'évaluation des LLM autour des questions suivantes : Comment définissons-nous la performance d’un système d’IA par rapport aux valeurs sociétales et humaines ? Comment évaluons-nous les avantages potentiels et les risques des systèmes ? Comment évaluer les capacités d'un modèle pour mieux comprendre ses limites ?
Des protocoles seront développés pour analyser les compromis entre bénéfices et préjudices, dans des scénarios réels. Les méthodes d’évaluation garantiront des mesures valides et fiables de ces systèmes, en s'appuyant sur nos travaux communs récents dans l'évaluation des systèmes de résumés et des modèles d'embedding pour fournir des bases théoriques et des garanties formelles liées aux indicateurs de performance. Des études de cas démontreront la pertinence de l’approche dans des contextes réels.
En combinant des principes issus de l’interaction homme-machine, de l’apprentissage automatique, du traitement du langage naturel et de la théorie de l’information, cet effort interdisciplinaire vise à réaliser des évaluations rigoureuses, assurant que les modèles de génération de langage sont fiables, robustes et adaptables à des environnements réels.