Ancrage symbolique dans les motivations intrinsèques sociales pour les modèles de langage – GISMo
Les récentes avancées dans le domaine des grands modèles de langage (LLM) basés sur des Transformers se sont révélées révolutionnaires pour générer des conversations cohérentes. Cependant, leur manque d'ancrage symbolique et l'inefficacité de leur échantillonnage limitent leur applicabilité en robotique, où l'adaptation aux environnements physiques et sociaux est essentielle. Ce projet vise à remédier à ces limitations en proposant une approche d'ancrage symbolique des LLMs dédié à un agent robotique intrinsèquement motivé qui interagit socialement, en s'inspirant de l'acquisition du langage humain. Notre approche repose sur un double modèle d'ancrage des symboles qui intègre l'ancrage sensorimoteur individuel et l'ancrage social des concepts. En combinant nos travaux antérieurs, qui fondent les symboles sur des motivations intrinsèques, avec un LLM, nous espérons créer un système qui apprend à partir d'indices sociaux tels que les expressions faciales et la synchronisation homme-robot. Notre plan de travail en quatre volets vise à : (1) intégrer notre modèle actuel à un LLM pour prendre en compte les structures linguistiques abstraites ; (2) développer un mécanisme de RL basé sur les récompenses sociales intrinsèquement motivé pour adapter le langage produit par le robot au contexte de l'interaction sociale ; (3) analyser en profondeur nos modèles pour mieux les aligner sur les mécanismes d'apprentissage du langage humain ; et (4) mettre l'accent sur des stratégies inspirées de l'apprentissage humain pour l'efficacité de l'échantillonnage et l'apprentissage continu. L'évaluation comprendra une comparaison de notre modèle ancré par rapport aux LLM traditionnels dans des environnements simulés et réels, ainsi que la reproduction d'études cognitives.
Coordination du projet
Laura Cohen (CY Cergy Paris Université)
L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.
Partenariat
ETIS CY Cergy Paris Université
Aide de l'ANR 199 971 euros
Début et durée du projet scientifique :
février 2025
- 48 Mois