Dans la continuité de la mission conduite par Cédric Villani sur la mise en œuvre d'une stratégie française et européenne en intelligence artificielle, l’article 17 de la récente loi n°2021-1017 du 2 août 2021 relative à la bioéthique a mis en lumière les enjeux éthiques liés au recours à l’intelligence artificielle (IA) en santé.

Pour concrétiser ces réflexions, la cellule éthique de la Délégation ministérielle au numérique en santé, a conduit des travaux visant à élaborer des recommandations de bonnes pratiques afin d’intégrer l’éthique dès les premières étapes du développement des solutions d’IA en Santé. La méthode de travail a consisté à proposer une approche de co-construction au sein d’un groupe de travail associant des experts pluriprofessionnels avec des chercheurs en IA, des représentants des patients, des professionnels de santé, des juristes, des sociologues, des éthiciens, et des éditeurs (notamment des start-ups).

Le processus d’élaboration d’une solution d’IA a été découpé en cinq étapes (le cadrage, la collecte des données, le prétraitement des données, la construction de l’algorithme et l’évaluation de l’algorithme en amont de la mise en production de la solution numérique) et des questionnements éthiques propres à chacune des étapes ont été proposés. Le guide de bonnes pratiques rendu public aujourd’hui, offre ainsi à son lecteur une démarche méthodologique clé en main pour intégrer doublement l’éthique « by design », tant au cours de la conception, en intégrant les valeurs éthiques dans la sélection des données d’apprentissage et l’architecture logicielle des systèmes, qu’à l’issue de la réalisation, pour valider les solutions proposées et éviter les biais redoutés de l’IA.

Animés par la conviction profonde que l’éthique est une opportunité pour l’innovation en IA, les pilotes de ce rapport considèrent que l’éthique des usages permettra de donner à la France une compétitivité durable au service de l’amélioration de la prise en charge des patients. Ce guide a ainsi pour objectif de créer la confiance, facteur d’adhésion essentiel, et d’encourager les usages d’un numérique en santé s’inscrivant dans une éthique responsable et respectueuse des droits et devoirs de tous.

La publication de ce rapport s’inscrit dans l’action 4 « Ethique » de la Feuille de Route du numérique en santé telle que présentée lors du Conseil du Numérique en Santé du 18 Juin 2020.