Adapter et expliquer l'équité pour des affectations basées sur des préférences – APPLE-PIE

De nombreuses applications concrètes traitent d’affectations basées sur des préférences : différents agents ont des préférences sur des éléments (activités, ressources ou encore d’autres agents) et celles-ci doivent être agrégées en une décision collective qui est une affectation des éléments aux agents. De nos jours, avec l’utilisation croissante d’algorithmes et d’outils de l’IA dans les systèmes gouvernant nos choix de vie (recrutement, assurance, université), des décisions importantes peuvent être prises dans des affectations. Pour assurer la confiance et la participation dans le système, il est donc crucial de garantir que les algorithmes utilisés pour calculer de telles affectations soient équitables pour les agents. Pour être équitable, la décision doit respecter les préférences exprimées des agents et ne doit discriminer aucune population. Cependant, l’équité dépend fortement du contexte de la décision, au niveau de sa temporalité, du type de préférences reportées, du type d’affectation ou encore du niveau de connaissance des agents. Par conséquent, si on veut garantir l’équité de manière réaliste dans des affectations, il est important d’adapter l’équité au contexte de la décision tout en justifiant que les solutions proposées sont réellement équitables. Cette justification doit permettre de convaincre les agents de manière intelligible qu’une décision plus équitable n’existe pas. L’adaptabilité et l’explicabilité pour l’équité contribuent conjointement à l’adoption et la confiance des agents dans les systèmes utilisant des algorithmes pour des affectations. Le projet APPLE-PIE propose d’étudier la garantie de l’équité dans des affectations via deux axes : l’élaboration de concepts d’équité flexibles s’adaptant à des contextes de décision variés ainsi que l’explicabilité de l’équité dans les solutions proposées. Le projet a également une dimension pratique en prévoyant de fournir un outil orienté vers l’explication pour calculer des affectations équitables.