Quantification Evidentielle de l'Incertitude pour la Fiabilité dans les Cartes de Saillance en XAI – EQUR-XSM

EQUR-XSM (Evidential Quantification of Uncertainty for Reliability in XAI Saliency Maps) est un projet de recherche visant à développer des solutions d’IA fiables et explicables pour l’analyse d’images médicales. En associant Evidential Deep Learning (EDL) à une modélisation avancée de l’incertitude, le projet cherche à quantifier et étalonner la confiance du modèle, afin de limiter les diagnostics erronés dus à un excès de certitude. EQUR-XSM s’intéresse également à l’explicabilité via des cartes de saillance enrichies d’informations sur l’incertitude, offrant au clinicien une visualisation claire des zones à la fois cruciales et fiables. Le projet se concentre en outre sur la fusion multi-modale, en modélisant spécifiquement les incertitudes propres à chaque modalité (par ex. IRM vs. scanner) afin d’assurer une segmentation robuste pour des cas complexes tels que les tumeurs, les anomalies musculaires et certaines maladies hématologiques. Les collaborations avec des partenaires cliniques (CHU de Grenoble et de Nantes) permettront une validation sur le terrain, tandis que l’utilisation de données open source garantira une large reproductibilité. Ainsi, EQUR-XSM contribue à combler les lacunes méthodologiques en matière de calibration, d’explicabilité et d’intégration multi-modale, dans l’optique d’améliorer la prise en charge des patients.