L’intelligence artificielle en santé peut repérer des signaux dans des milliers d’images ou de dossiers, mais elle apprend à partir de données humaines, donc imparfaites. Lorsque certains groupes sont peu représentés, ses prédictions risquent d’être moins fiables pour eux.
En cancérologie, la bioinformaticienne Tiphaine Martin analyse des données génomiques, protéomiques et cliniques pour mieux comprendre les risques et les traitements. Son travail rappelle une question concrète : comment éviter que les biais algorithmiques ne pèsent sur le diagnostic médical et la décision clinique ?
A retenir :
- Représentativité des données et contrôle des résultats selon les populations
- Supervision médicale, explicabilité et vérification des recommandations
- Protection des données de santé et information claire des patients
- Équité algorithmique au service de la sécurité des patients
Biais algorithmiques en santé : quand les données déforment le diagnostic
Pour comprendre les effets de l’IA, il faut d’abord examiner ce qu’elle apprend. Un algorithme peut repérer une association statistique sans distinguer une cause biologique d’un facteur social ou d’une pratique médicale ancienne.
Des données médicales qui ne représentent pas tous les patients
Dans les bases utilisées pour entraîner un modèle, certaines populations ou pathologies apparaissent moins souvent que d’autres. Selon l’Organisation mondiale de la santé, les modèles génératifs peuvent produire des résultats inexacts, biaisés ou incomplets, avec des conséquences pour les groupes minoritaires.
Tiphaine Martin souligne que des critères biologiques historiquement différenciés selon les populations ont contribué à retarder certains diagnostics rénaux. Un modèle entraîné sur ces dossiers peut reproduire cette discrimination médicale, même si ses calculs semblent cohérents.
« Le plus gros problème, ce sont les biais dans les données. »
Tiphaine M.
La représentativité des données ne concerne donc pas seulement la taille d’un échantillon. Elle dépend aussi des informations disponibles sur l’âge, le contexte social, l’origine géographique et les conditions d’accès aux soins.
Pour rendre ces mécanismes plus visibles, les équipes doivent comparer les résultats entre groupes avant d’envisager un déploiement clinique.
Repères pour évaluer les données :
- Groupes de patients effectivement inclus
- Origine géographique et contexte des dossiers
- Variables manquantes ou codées différemment
- Résultats comparés selon les populations
Discrimination médicale : des erreurs qui creusent les inégalités de soins
Lorsque les données reflètent des inégalités déjà présentes, les erreurs peuvent se répéter à grande échelle. Le risque ne tient pas uniquement à un mauvais résultat individuel, mais aussi à une qualité de soin qui varie selon les patients.
Une prédiction performante peut rester inéquitable
Un modèle peut afficher de bons résultats globaux tout en étant moins précis pour un sous-groupe. Selon Tiphaine Martin, une corrélation attribuée à la biologie peut parfois traduire des différences socio-économiques ou d’accès aux soins.
En pratique, une alerte sous-estimée peut retarder un examen complémentaire ; une alerte excessive peut conduire à des investigations inutiles. Dans les deux cas, l’évaluation doit porter sur les conséquences cliniques, et pas seulement sur la performance moyenne.
« Si on entraîne un modèle sur ces données, il va reproduire ce biais sans le questionner. »
Tiphaine M.
Selon l’étude observationnelle publiée dans The Lancet Gastroenterology & Hepatology en 2025, le taux de détection des adénomes des endoscopistes étudiés a diminué après une période d’utilisation régulière de l’IA. Ce résultat documente un risque de perte de compétences, sans établir que tous les outils ou toutes les pratiques produisent le même effet.
Les évaluations doivent donc vérifier à la fois la précision, les écarts entre groupes et les effets sur le travail des soignants.
Risques à surveiller en pratique :
- Faux négatifs concentrés dans certains groupes
- Examens supplémentaires après des alertes excessives
- Perte de vigilance ou de compétences cliniques
- Accès inégal aux outils les mieux évalués
Un outil de dépistage n’a pas le même rôle qu’un système de transcription, et leurs risques diffèrent. Cette distinction aide à choisir les contrôles adaptés à chaque usage.
| Usage médical | Apport attendu | Point de vigilance |
|---|---|---|
| Analyse d’imagerie | Repérage de signes à examiner | Écarts de performance entre populations |
| Modèle prédictif | Estimation d’un risque clinique | Confusion entre facteurs biologiques et sociaux |
| IA générative | Aide à la rédaction ou à la synthèse | Réponses plausibles mais erronées |
| Automatisation des tâches | Réduction de certaines tâches répétitives | Dépendance et perte de compétences |
Équité algorithmique : vérifier les modèles avant leur usage clinique
Face à ces risques, l’évaluation doit commencer avant l’arrivée de l’outil au chevet du patient. Elle doit ensuite se poursuivre, car les pratiques, les populations et les données évoluent avec le temps.
Tester les résultats dans des contextes variés
Selon Tiphaine Martin, les modèles explicables facilitent l’examen des résultats et leur confrontation aux connaissances biologiques. Les validations sur des données issues de régions et d’environnements différents permettent aussi de repérer des écarts qui resteraient invisibles dans un seul établissement.
Une équipe peut, par exemple, comparer la sensibilité d’un outil entre plusieurs groupes de patients et analyser les erreurs les plus fréquentes. L’objectif n’est pas de supprimer toute incertitude, mais de savoir où l’outil est fiable et où une vérification renforcée s’impose.
« On cherche à éviter les boîtes noires, pour pouvoir interpréter les résultats et les confronter à la réalité biologique. »
Tiphaine M.
Selon la Haute Autorité de santé, les contenus générés doivent être considérés comme des propositions à vérifier, et les professionnels doivent se former aux usages retenus. Une performance technique ne suffit pas à démontrer l’utilité d’un système dans une décision clinique réelle.
Les contrôles doivent être documentés et renouvelés après les changements de version ou de contexte de soins.
Contrôles utiles avant déploiement :
- Validation indépendante sur des données variées
- Analyse des erreurs selon les groupes concernés
- Surveillance après mise en service
- Formation des professionnels aux limites du système
Sécurité des patients : encadrer l’usage sans remplacer le médecin
Une fois les limites examinées, reste à définir qui utilise l’outil, dans quel cadre et avec quelle information donnée au patient. La supervision humaine constitue un garde-fou essentiel, mais elle doit s’accompagner de règles compréhensibles et de responsabilités claires.
Protéger les données et maintenir le jugement humain
La loi française relative à la bioéthique prévoit, dans certaines situations, l’information du patient et du professionnel lorsqu’un dispositif médical repose sur un traitement algorithmique. Le RGPD encadre également le traitement des données personnelles, tandis que le règlement européen sur l’IA déploie progressivement ses obligations.
Selon la Haute Autorité de santé, chaque résultat généré doit être contrôlé avant son utilisation. Une donnée identifiante ne doit pas être transmise à un service grand public sans garanties adaptées ; la confidentialité reste une condition de confiance dans le soin.
« L’IA est un outil d’aide, pas un remplaçant. »
Tiphaine M.
Pour le patient, l’enjeu est aussi de comprendre quand un système intervient et quelle place son résultat occupe dans la décision. Pour le soignant, il s’agit de garder la possibilité de contester une recommandation qui ne correspond pas à la situation clinique.
Ces règles prennent tout leur sens lorsqu’elles sont appliquées au quotidien, dans les pratiques de chaque établissement.
Principes de sécurité à appliquer :
- Information adaptée sur le recours à l’algorithme
- Protection des données de santé identifiantes
- Vérification humaine des résultats utilisés
- Responsabilités définies entre professionnels et fournisseurs
| Cadre | Ce qu’il encadre | Conséquence pratique |
|---|---|---|
| RGPD | Données personnelles | Protection et encadrement des traitements |
| Loi de bioéthique de 2021 | Certains dispositifs algorithmiques en santé | Information du patient et du professionnel concerné |
| Règlement européen sur l’IA | Systèmes d’IA selon leur niveau de risque | Obligations déployées selon le calendrier européen |
| Recommandations de la HAS | Bon usage en contexte de soins | Formation et vérification des résultats générés |
Pour un patient, une recommandation algorithmique doit rester compréhensible, contestable et reliée à son histoire médicale. C’est cette vigilance qui permet à l’innovation de soutenir les soins sans rendre invisibles les inégalités.
Source : Organisation mondiale de la santé, « Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models », 2024 ; Haute Autorité de santé, « Premières clefs d’usage de l’IA générative en santé », 2025 ; Parlement européen et Conseil, « Règlement (UE) 2024/1689 », 2024.
