IA en santé et responsabilité : la garantie humaine supérieure aux certitudes du logiciel

Difficile aujourd’hui de faire l’impasse sur l’intelligence artificielle tant elle est présente dans de nombreux secteurs. L’une de ses sphères d’intervention de prédilection : la santé. Analyse de l’imagerie, aide au diagnostic, aide à la prescription... l’IA intervient sur tous les fronts. Mais qu’en est-il de la responsabilité en cas d’erreur ?

Le Comité national consultatif d’éthique (CCNE) et le Comité national pilote d’éthique du numérique (CNPEN) ont rendu en décembre 2022 un avis commun sur le « Diagnostic Médical et Intelligence Artificielle : Enjeux Ethiques ». En juin 2023, le CNPEN a également publié un avis sur les « Systèmes d’intelligence artificielle générative : enjeux d’éthique ». Preuve que la thématique interroge. « Nous nous sommes saisis de cette question pour éclairer la problématique, analyser les enjeux et donner des préconisations », explique Raja Chatila, professeur d’intelligence artificielle, de robotique et d'éthique à Sorbonne Université et membre du CNPEN. Car les enjeux autour du recours à l’IA dans le secteur de la santé sont nombreux. « Cette réflexion doit être menée car de plus en plus de dispositifs médicaux (DM) intégrant de l’IA sont utilisés pour l’aide au diagnostic médical, indique-t-il. Ces outils commerciaux ou académiques posent nécessairement la question de la responsabilité en cas de problème. »

L’IA appliquée à la santé

Prenons l’exemple du domaine de l’imagerie médicale. Lorsque des fabricants de dispositifs médicaux (DM) souhaitent y intégrer de l’IA, la première étape va être de collecter des données, qui vont devoir préalablement être « étiquetées » afin d’informer le logiciel d’IA de ce que montrent les images : tumeur, tumeur cancéreuse, tumeur bénigne, absence de tumeur. « À partir de ces données, le fabricant va construire un modèle statistique, dans le cadre d’une approche d’apprentissage supervisé, explique le Pr Chatila. Des fonctions mathématiques vont traiter les images et identifier des régularités statistiques (alignement et concentration de pixels) pour que, face à telle caractéristique qui revient sur une image, le système d’IA puisse affirmer qu’il s’agit de telle pathologie. »En alimentant l’outil numérique par de grandes quantités de données, la présence des régularités va être repérée par le système, et le