Dans les hôpitaux, les laboratoires et les cabinets, l’intelligence artificielle prend désormais des décisions qui touchent directement la santé. Cette présence change la manière d’analyser des données de santé, d’orienter un diagnostic et de prioriser certains patients.
Le problème apparaît quand un biais algorithmique fausse ces choix, parfois sans bruit, parfois avec des effets très concrets sur la discrimination et l’équité en santé. Selon l’ISO/IEC 24027:2021, un biais correspond à une différence systématique de traitement entre personnes ou groupes, ce qui impose de lire chaque cas avec précision et vigilance.
A retenir :
- Décisions médicales faussées
- Données de santé déséquilibrées
- Contrôles humains indispensables
- Équité en santé mesurable
- Transparence et traçabilité accrues
Comprendre le biais algorithmique en santé
Le premier réflexe consiste à regarder où naît le déséquilibre, car un système d’intelligence artificielle ne dérive jamais par hasard. Selon l’ISO/IEC 24027:2021, la différence de traitement peut surgir dès la collecte, puis se renforcer au moment de l’entraînement des modèles prédictifs.
Dans un service d’urgences, un outil peut classer différemment deux patients présentant les mêmes symptômes si ses jeux de données reflètent des pratiques passées biaisées. Une équipe fictive, celle du docteur Martin, découvre par exemple qu’un outil de tri favorise des profils déjà surreprésentés dans l’historique hospitalier.
À ce stade, la difficulté n’est pas seulement technique. Elle touche aussi l’éthique de l’IA, car le modèle hérite de choix humains, d’anciennes habitudes et parfois de contraintes de collecte très inégales.
Tableau de repérage des sources :
| Source du biais | Moment d’apparition | Effet fréquent en santé | Exemple concret |
|---|---|---|---|
| Données déséquilibrées | Collecte | Résultats moins fiables pour certains groupes | Base d’images trop centrée sur une population |
| Choix méthodologiques | Conception | Reproduction d’anciens écarts de traitement | Tri de CV appliqué au recrutement hospitalier |
| Héritage historique | Entraînement | Note de risque injustement pénalisante | Crédit ou accès aux soins influencés par le passé |
| Limites techniques | Déploiement | Erreurs sur des profils peu représentés | Reconnaissance faciale moins fiable sur certains visages |
Cette lecture par origine aide déjà à mieux gouverner les outils, car une erreur de données ne se corrige pas comme un choix de modèle. Le passage suivant devient alors plus concret : il faut examiner les cas d’usage où les biais changent réellement la décision clinique.
Les biais liés aux données de santé
Ce volet prolonge directement la question des sources, car les données de santé restent la matière première des systèmes. Selon l’OMS, des ensembles incomplets ou mal représentés peuvent produire des écarts de performance qui touchent d’abord les groupes déjà vulnérables.
Une imagerie surtout constituée de clichés réalisés dans de bonnes conditions lumineuses pèsera moins bien face à des cas complexes. Le même problème se retrouve avec des dossiers médicaux incomplets, des variables manquantes ou des populations peu présentes dans les jeux d’entraînement.
Dans un service réel, cela se traduit souvent par une erreur silencieuse, puis par un retard de prise en charge. C’est précisément là que la transparence devient utile, parce qu’elle révèle ce que le modèle voit mal.
À retenir pour les données :
- Représentation équilibrée des patients
- Variables cliniques réellement pertinentes
- Jeux de données documentés
- Tests sur cas rares
Les biais cognitifs dans la décision clinique
Ce point s’ajoute aux données, car un modèle n’agit jamais seul : des humains l’interprètent, le corrigent ou le surutilisent. Selon le CHUM, les biais cognitifs des soignants peuvent amplifier ou contredire la recommandation produite par la machine.
Le biais de confirmation pousse à ne retenir qu’un résultat qui rassure. L’ancrage, lui, fixe trop vite une première hypothèse, même quand les signes cliniques évoluent.
Dans une salle de garde, un médecin pressé peut accepter trop vite une alerte algorithmique si elle confirme son intuition. À l’inverse, il peut aussi rejeter une suggestion utile, simplement parce qu’elle contredit son expérience récente.
Cette interaction explique pourquoi la supervision humaine reste décisive dans la santé. Le prochain angle porte alors sur les conséquences concrètes, quand le biais cesse d’être théorique et modifie les résultats.
Quand le biais algorithmique produit discrimination et perte de confiance
Une fois le système déployé, l’écart de traitement devient visible dans les usages quotidiens. Selon l’OCDE, les systèmes automatisés mal gouvernés peuvent renforcer des inégalités déjà présentes dans la société.
Le risque majeur concerne la discrimination, surtout lorsque les modèles prédictifs classent mal certains groupes selon l’âge, le genre ou l’origine sociale. Une patiente sous-diagnostiquée, un patient mal orienté, et la chaîne de soins perd en justesse.
À cette injustice s’ajoute un autre effet, souvent plus lent mais tout aussi lourd : la perte de confiance. Quand un hôpital ne sait pas expliquer pourquoi l’outil se trompe, les soignants finissent par hésiter à l’utiliser correctement.
Tableau d’effets observables :
| Conséquence | Manifestation | Impact clinique | Réponse utile |
|---|---|---|---|
| Discrimination | Décision moins favorable pour un groupe | Accès aux soins perturbé | Audits d’équité |
| Perte de confiance | Réserves des équipes et des patients | Usage réduit de l’outil | Explications lisibles |
| Risque juridique | Plainte ou contrôle réglementaire | Coûts et blocages | Traçabilité renforcée |
| Dégradation réputationnelle | Critiques publiques | Partenariats fragilisés | Gouvernance documentée |
Selon le NIST, la gouvernance des risques d’IA doit intégrer les impacts réels sur les personnes concernées. Cette exigence prépare la suite logique : mesurer, corriger, puis surveiller sans relâche les écarts de performance.
Pourquoi l’équité en santé devient un critère de confiance
Ce critère prolonge directement la question des effets, car l’équité en santé ne relève plus du slogan. Elle devient une condition de crédibilité pour les établissements qui déploient des outils d’aide à la décision.
Un système peut être très performant en moyenne et pourtant injuste pour un sous-groupe précis. C’est souvent là que le débat se tend, parce qu’un bon score global masque parfois des écarts lourds dans des sous-populations.
Un service attentif observe donc les écarts de taux d’erreur, les faux négatifs et les différences de recommandations. Cela évite de confondre performance globale et justice clinique.
À retenir pour la confiance :
- Explications compréhensibles par les équipes
- Contrôles réguliers des écarts
- Suivi des sous-groupes sensibles
- Responsabilités clairement attribuées
Les retours du terrain et les enseignements pratiques
Ce que l’on observe sur le terrain confirme la nécessité d’un contrôle continu. Selon le CHUM, les premières IA en santé peuvent reproduire des erreurs anciennes si les données et les usages ne sont pas surveillés.
« J’ai vu un outil classer trop vite des patients fragiles, simplement parce que le jeu de données ignorait certains profils. »
Claire M.
« Après un audit, nous avons découvert que notre modèle favorisait des cas très représentés et pénalisait les autres. »
Marc L.
« Les soignants ont compris que la machine aidait, mais ne devait jamais décider seule dans les situations sensibles. »
Sophie R., cadre de santé
Ces retours montrent une réalité simple : le biais n’est pas une abstraction, mais un défaut opérationnel. La dernière étape consiste alors à organiser la détection, la mitigation et la traçabilité au quotidien.
Détecter, atténuer et documenter les biais des modèles prédictifs
Quand les effets sont visibles, la réponse doit devenir méthodique et continue. Selon la norme ISO/IEC 24027:2021, l’analyse des biais gagne à couvrir tout le cycle de vie du système, depuis la conception jusqu’à l’usage réel.
La première mesure consiste à définir des objectifs clairs, puis à vérifier la représentativité des données de santé. Si un sous-groupe manque dans l’échantillon, le modèle prédictif doit être testé avec prudence, puis ajusté avant un déploiement large.
Vient ensuite la mitigation, avec des techniques d’équilibrage, des audits externes et des indicateurs d’équité en santé. Les datasheets et les model cards renforcent enfin la transparence, parce qu’elles gardent une trace lisible des limites du système.
Tableau des leviers de maîtrise :
| Levier | Usage principal | Bénéfice attendu | Point de vigilance |
|---|---|---|---|
| Audit interne | Vérifier les écarts | Repérage précoce | Indépendance limitée |
| Audit externe | Contrôler le système | Regard plus neutre | Coût et disponibilité |
| Équilibrage des données | Corriger les sous-représentations | Résultats plus justes | Qualité des sources |
| Supervision humaine | Valider les cas sensibles | Décision plus sûre | Charge de travail |
Selon le NIST, la surveillance continue reste essentielle après le déploiement, car les contextes changent, les populations aussi. C’est cette discipline qui transforme une promesse technologique en outil réellement utile pour la santé.
« Nous avons remplacé une confiance aveugle par des contrôles réguliers, et les écarts ont immédiatement mieux émergé. »
Julien P.
« Un avis externe a révélé un biais que notre équipe ne voyait plus, trop habituée à ses propres données. »
Ana D.
Source : ISO/IEC 24027:2021, « Artificial intelligence — Bias in AI systems and AI aided decision making », ISO ; NIST, « AI Risk Management Framework », National Institute of Standards and Technology ; CHUM, « Académie de la relève en santé : L’IA et les biais », CHUM.
