Management des risques éthiques dans l'Industrie du Futur – ETHICS40

L'usage des technologies modernes dans les systèmes industriels est en expansion au vu : 1) des spécificités techniques qu'elles permettent de réaliser, 2) de la traçabilité des données qu'elles offrent et, 3) du soulagement des opérateurs humains, des tâches fastidieuses ou répétitives, qu’elles rendent possibles. Les systèmes industriels du Futur se caractérisent par une augmentation de leur autonomie et une profusion des données produites et manipulées, pouvant conduire à des décisions mal maîtrisées, qui peuvent induire des dilemmes éthiques. De telles décisions peuvent concerner une utilisation inappropriée des données pour le pilotage des systèmes industriels ou des réactions, enclenchées par l’Intelligence Artificielle, fondées sur une vision partielle du système et ayant des conséquences mal maîtrisées sur les différentes parties prenantes. Le projet ETHICS40 s'intéresse au management des enjeux éthiques lors de l’exploitation des systèmes industriels du Futur. Il ambitionne, en partenariat avec l'équipementier et fabricant de roulements NTN-SNR, en cours de migration vers l’Usine du Futur, le développement d’un outil, prototype logiciel, nommé ETHICS4IF (Ethical Risk Assessment and Management for Industry of the Future - Evaluation et Management des Risques Ethiques dans l’Industrie du Futur), permettant l'identification et l’intégration des risques éthiques au pilotage et à l'amélioration de la performance des systèmes industriels du Futur. L’éthique étant un concept issu de la philosophie morale, délicat à appréhender en ingénierie, l’outil ETHICS4IF sera le résultat de réflexions menées par une équipe pluridisciplinaire impliquant des spécialistes de l'éthique appliquée. Une définition de cette notion d’éthique appliquée à l'exploitation des systèmes industriels du Futur et une identification des risques associés seront proposées dans un premier temps. Dans un second temps, la prise en compte de ces risques dans le mécanisme d’évaluation et d’amélioration continue de la performance des systèmes industriels sera rendue opérationnelle par la proposition d’une méthodologie concrète pour intégrer les risques et leurs conséquences potentielles. ETHICS4IF sera destiné aux acteurs en interaction avec ces systèmes (opérateurs, managers, etc.). Il combinera les différents points de vue associés aux risques éthiques (humain, système industriel, entreprise, société, environnement). Les règles et pratiques de gestion éthique déduites de l'analyse des risques seront définies en cohérence avec les règles de déontologie en vigueur dans l’entreprise et dans un respect des lois associées à l'usage du numérique. Des indicateurs de performance rattachés à l’éthique associée à l’exploitation des systèmes industriels du Futur seront proposés et suivis en vue de l’amélioration de la prise en compte de cette dimension. Le livrable essentiel du projet consistera en un prototype logiciel englobant les aspects mentionnés. Il sera accompagné d’un ensemble de règles et pratiques déduit de son application par le partenaire NTN-SNR ainsi que d'une réflexion sur un retour d'expérience relatif à l'utilisation de l'outil et des règles et pratiques, au-delà du cas d'étude NTN-SNR. L’outil sera alimenté, testé et utilisé par l'entreprise. Un comité stratégique constitué des membres du projet, d'industriels non concurrents de NTN-SNR ainsi que d'un cabinet d’avocats, spécialiste en droit du numérique, encadrera l'avancement de ce projet. Le projet ETHICS40 répond à un besoin important des industriels en migration vers l'Usine du Futur. Il offrira à la communauté scientifique un outil contribuant à rendre opérationnelle l'éthique en ingénierie et en recherche en génie industriel.