Intelligence artificielle dans les systèmes temps réel – ARTi

L’intégration de l’intelligence artificielle (IA) dans les systèmes temps réel embarqués pose de nombreux défis. L’un de ceux-ci est la très grande quantité de données traitées par ces algorithmes qui impacte leur temps d'exécution sur des plateformes avec des ressources limitées (calcul et mémoire). Pour répondre à ce problème, des approches logicielles et matérielles sont de plus en plus adoptées. D’un côté, les accélérateurs matériels (par exemple, FPGA, TPU, GPU) permettent d’optimiser le calcul matriciel et traiter en parallèle le calcul divisé en plusieurs sous-tâches. De l’autre côté, les techniques logicielles (par exemple, élagage ou quantification), permettent de réduire la taille du réseau.

Ce projet vise à explorer conjointement le potentiel des accélérateurs matériels et des techniques d'optimisation logicielle pour l’exécution de modèles réduits de réseaux de neurones dans les systèmes temps réel embarqués. L'approche proposée consiste à développer de nouvelles politiques d’ordonnancement spécialement conçues pour les accélérateurs matériels, capables de réguler de manière dynamique l'équilibre entre le temps, l'énergie et la précision. Ces politiques nécessitent un cadre d'optimisation hors ligne afin de déterminer le niveau de compression appliqué aux réseaux de neurones garantissant à la fois l’ordonnançabilité de l'ensemble de tâches du réseau de neurones et les indicateurs d'énergie et de précision correspondants. Nous prévoyons d'évaluer le cadre proposé sur un petit véhicule autonome contrôlé par un système utilisant des unités de traitement de tenseurs (Tensor Processing Unit - TPU).