Certification de l'IA par le raisonnement quantitatif et la qualité basée sur le comptage – CertAI

L'apprentissage automatique a atteint notre vie quotidienne et presque tous les aspects de la société, mais les techniques actuelles n'offrent pas de garanties de correction. En revanche, les compteurs de modèles peuvent prouver qu'ils ont trouvé des solutions pour des instances comportant des milliers de variables. Nous proposons d'associer ce domaine en plein essor à l'apprentissage automatique afin de tirer le meilleur parti des deux mondes. Nous visons des garanties de qualité en prédisant des propriétés clés qui sont vérifiées par comptage, conduisant à une IA certifiée. Le projet est une approche pionnière et risquée pour relier la vérification formelle et l'apprentissage automatique, mais tout progrès permettra d'obtenir des informations inédites.
Malgré l'efficacité des compteurs de modèles, nous avons besoin, pour notre utilisation, d'améliorations significatives en termes d'évolutivité. Nous sommes convaincus que la clé réside dans une compréhension fine de la complexité. Notre hypothèse est que les tâches de comptage difficiles peuvent être traduites en temps linéaire en une simple soustraction de comptages sur des formules restreintes. Nous prévoyons des améliorations significatives capables de fournir un retour d'information sur la qualité de l'apprentissage, ouvrant ainsi la voie à l'IA certifiée.
Nous commencerons par étudier la complexité à un niveau fin, développant ainsi une théorie de préservation de la structure et des variantes résistantes des principes combinatoires. Après avoir cerné les idées à grain fin, nous étudierons leur impact sur les solveurs et les raccourcis pour les fragments restreints. Nous concevrons une nouvelle boucle d'apprentissage visant à synthétiser des modèles du monde réel et à apprendre des propriétés non triviales, dont nous quantifierons la qualité. Notre vision ambitieuse est d'apprendre à compter, puis de fermer la boucle de rétroaction et de réutiliser le comptage comme élément clé de l'apprentissage.