Méthodes d'optimisation parcimonieuse exploitant des structures hiérarchiques – MEPHISTO

De nombreuses applications demandent aujourd’hui la résolution de problèmes d’optimisation de grande taille, impliquant de grandes quantités de données et des modèles complexes avec de nombreuses variables, notamment les réseaux de neurones. Pour améliorer les performances de ces modèles, la tendance a été d'augmenter encore plus leur complexité et de les nourrir avec de plus en plus de données. Par conséquent, leur entraînement et utilisation nécessitent d’importantes ressources de calcul. Il est donc crucial de rendre l'apprentissage profond plus parcimonieux  en réduisant  sa dépendance aux grands réseaux  et volumes de données. Le but de ce projet est de développer des méthodes d'optimisation  efficaces d'un point de vue calculatoire, parcimonieuses en ressources et bien fondées d'un point de vue mathématique. L'ingrédient clé pour accomplir cet objectif sera de développer des méthodes capables de construire, exploiter ou découvrir   des structures hiérarchiques dans les problèmes considérés. Ces structures permettent  de représenter un problème  à différentes  échelles  de taille, précision et/ou résolution, chacune d'entre elles correspondant à une quantité de ressources ou à un coût progressivement plus petits, permettant ainsi des représentations multiples pouvant atteindre un compromis flexible entre précision et parcimonie. Une utilisation intelligente de cette hiérarchie de modèles  permettra d'obtenir les buts d'efficacité et parcimonie   sans compromettre la précision.