Par Jean Charlet, Chercheur à l’AP-HP, rattaché au LIMICS (Sorbonne Université), et Xavier Tannier, Professeur des Universités à Sorbonne Université, Directeur du Limics (laboratoire de recherche en informatique pour la santé)
L’intelligence artificielle (IA) ne révolutionnera pas la médecine par ses performances techniques ; elle la transformera par son impact sur la relation soignant-soigné, sur l’accès aux soins et sur la confiance dans le système de santé.
Derrière les promesses de diagnostics plus rapides ou de parcours optimisés se cachent en effet des questions fondamentales : qui contrôle ces outils ? Qui en garantit l’équité ? Comment éviter qu’ils ne reproduisent, voire n’aggravent, les inégalités existantes ?
Dans un contexte où les acteurs dominants du numérique déploient des solutions souvent opaques, tentent d’imposer leurs règles par l’usage, et où la confiance est altérée par des incidents de sécurité à répétition chez ces mêmes acteurs, nous avons le devoir de garantir que l’IA en santé reste une chance pour tous. Son succès ne dépendra pas de sa puissance, mais de notre capacité à l’intégrer de manière éthique, transparente et souveraine.
Le vocable « Intelligence Artificielle » (IA) recouvre des réalités scientifiques très diverses, avec pour point commun de déléguer à la machine des tâches dévolues originellement aux êtres humains. En santé, cette délégation soulève des enjeux à la fois techniques et humains : comment ces outils servent-ils leurs utilisateurs, à savoir les professionnels (médecins, infirmiers, informaticiens) et les patients ?
L’IA en santé ne se limite pas à une seule technologie. Elle regroupe des outils variés :
• L’IA symbolique, basée sur des ontologies ou règles logiques (ex. : détection d’interactions médicamenteuses).
• L’IA numérique, qui utilise l’apprentissage automatique (ex. : reconnaissance d’images médicales).
• L’IA générative, capable de produire des textes ou des analyses (ex. : rédaction de comptes rendus médicaux).
Elle révèle surtout des usages variés, selon leur niveau d’intervention dans la chaîne de soins. En arrière-plan, des outils de traitement et d’analyse de données sont utilisés de longue date pour faciliter les essais cliniques, modéliser des connaissances, développer des médicaments. S’ils sont transparents et ciblés, ils sont aisément acceptés car non autonomes et non critiques.
En interface avec les professionnels de santé, les algorithmes d’allocation de ressources hospitalières, d’amélioration des parcours de soins, d’identification de nouvelles indications thérapeutiques, de synthèse de dossiers, affectent indirectement les patients. Les outils gagnent en efficacité, mais doivent être plus transparents : comment garantir l’absence de biais dans un algorithme de triage aux urgences ?
Enfin, au lit du patient, l’IA s’intègre aux systèmes d’aide à la décision médicale : détection précoce de pathologies (septicémie, insuffisance cardiaque, mélanome), propositions de traitements ciblés selon les profils génomiques ou physiologiques, ou encore prévention en santé mentale selon l’environnement du patient (l’exposome).
C’est cette dernière catégorie qui suscite le plus de promesses... et de craintes, avec un risque d’usages mal contrôlés, tant l’avance des acteurs généralistes sur les institutions de santé est importante. Techniquement, rien n’empêche un professionnel de santé de saisir des données personnelles dans un outil d’IA générative, y compris grand public, et d’en exploiter les résultats. Mais cette pratique pose des problèmes majeurs en termes de fiabilité (le système rend-il le service prévu ?), de confidentialité (quelle garantie pour les données sensibles ?) et d’éthique (quels principes moraux doivent guider le développement de ces outils pour mieux soigner dans une société plus juste ?).
Au-delà des considérations techniques, ces avancées doivent s’inscrire dans un cadre scientifique et éthique garantissant que les systèmes apportent un bénéfice aux utilisateurs, que ce soit les patients ou les professionnels de santé. Ce cadre repose sur les 4 piliers éthiques du principisme :
a) Des acteurs aidés dans leur décision, (bienfaisance),
b) des outils non toxiques et des données protégées (non-malfaisance), sachant qu’une erreur d’IA, même plus rare qu’une erreur humaine, sera toujours jugée moins acceptable,
c) des acteurs informés et autonomes dans leur prise de décision, et non dépossédés de leur responsabilité (autonomie),
d) des systèmes favorisant l’équité, l’égalité de l’accès aux soins, et non une aggravation des disparités territoriales au profit des grands acteurs pouvant financer l’accès aux technologies (justice).
La Délégation du Numérique en Santé les enrichit e) d’un principe d’écoresponsabilité.
Les risque spécifiques à l’IA ne sont pas seulement théoriques. En 2023, un système de dépistage du mélanome a sous-estimé les risques pour les peaux noires de 30 à 40 %, en raison d’un manque de diversité dans les données d’entraînement. En France, le scandale des prothèses PIP (2010) rappelle que l’innovation médicale sans contrôle peut avoir des conséquences dramatiques. Ces principes se traduisent dans des lois dites de bioéthiques et dans l’AI Act, qui classe les outils d’IA en santé en risque élevé, imposant des tests cliniques comparatifs avant toute commercialisation. De plus, ces lois précisent que le médecin doit rester le décisionnaire et le responsable final de toute conclusion médicale médiée par l’IA et il doit en informer le patient. Notons que l’éthique ne peut pas être considérée comme un obstacle, et peut même favoriser l’innovation. Par exemple, elle peut guider l’amélioration des outils sur les personnes vulnérables, ayant des difficultés mentales, ou sur les minorités linguistiques.
Si l’éthique encadre les principes de développement, l’évaluation en est le garant opérationnel : comment s’assurer que ces systèmes, une fois déployés en conditions réelles, respectent les attentes cliniques et sociétales ? La réponse est également complexe car les situations réelles dépassent souvent les scénarios testés en laboratoire.
Ainsi, dans le dépistage du cancer du sein, l’organisation des soins impose une double lecture des images d’anatomopathologie. Où et comment intégrer l’IA ? En première lecture, pour accélérer le diagnostic ? En seconde lecture, pour réduire les erreurs humaines ? Qui est responsable de la lecture IA ? Enfin, quel est le bénéfice réel : amélioration de la précision, gain de temps pour les praticiens, ou impact sur la survie des patientes ? Ces questions illustrent un enjeu majeur : l’intégration de l’IA ne peut pas être improvisée. Comme pour les médicaments et leur autorisation de mise sur le marché (AMM), son déploiement doit suivre un processus rigoureux, incluant des essais comparatifs pour évaluer son efficacité et sa sécurité. Pourtant, très peu de systèmes ont, à ce jour, franchi toutes ces étapes. D’où le décalage, parfois frustrant, entre les promesses médiatiques et la réalité du terrain.
L’impératif de souveraineté française et européenne pour l’hébergement et le traitement des données se heurte à une maturité encore insuffisante des acteurs locaux du domaine. Malgré des progrès récents, la domination des géants américains et chinois dans l’IA médicale reste quasi-totale et pose la question de la dépendance de la France à des technologies étrangères, pour des enjeux aussi sensibles que la santé. Des solutions émergent. Côté hébergement, la Plateforme des Données de Santé en France, le futur Espace Européen des Données de Santé offrent des cadres sécurisés. Pour le traitement, le projet public PARTAGES (communs numériques pour l’IA générative en santé) ou un bon réseau d’acteurs privés comme Mistral, montrent la voie. Cependant, les investissements restent sans commune mesure avec ceux des États-Unis ou de la Chine.
En conclusion, l’IA en santé n’est pas une révolution technique mais une révolution culturelle. Son intégration nécessite de conserver l’éthique au centre de notre réflexion, entre innovation et prudence, Pour y parvenir, trois piliers sont indispensables :
• le financement et la mise en œuvre d’outils souverains et dédiés au domaine médical,
• le renforcement de l’évaluation des systèmes avec la rigueur scientifique nécessaire, grâce à des obligations claires et adaptées sur les tests cliniques nécessaires,
• la formation des professionnels de santé pour la maîtrise critique de ces outils.
De plus, les questions de la responsabilité écologique et de la souveraineté des données et des outils incitent à soutenir les initiatives européennes ainsi que la poursuite des recherches pour des LLM plus petits (donc nécessitant moins de ressources techniques), plus spécialisés et mis en œuvre dans un environnement local et sécurisé, respectant la confidentialité des données personnelles.
C’est à ces conditions que la promesse de renforcer le jugement médical, sans le remplacer, pourra être tenue. ■
Voir : https://www.inserm.fr/dossier/intelligence-artificielle-et-sante/
Voir : https://huggingface.co/spaces/HealthDataHub/PARTAGES
Voir : https://doi.org/10.1016/j.banm.2024.03.005
Voir : https://www.avenirdelasante.fr/les-quatre-piliers-de-lethique-medicale-et-leur-importance/
Voir : https://www.catel-esante.fr/telecharger-2eme-volet-livre-blanc-ia-imagerie
