Quand un logiciel analyse un scanner thoracique et signale une anomalie avant même que le radiologue ait ouvert le dossier, une question se pose : qui décide, et sur quelles bases ? L’intelligence artificielle en radiologie ne se limite pas à un gain de temps. Elle redistribue les responsabilités, modifie la relation au patient et soulève des tensions que ni la technique ni la réglementation ne peuvent résoudre seules.
Quand l’IA en radiologie se trompe, qui porte la responsabilité ?
Imaginons un logiciel de détection qui ne repère pas une fracture pourtant visible sur une radiographie. Le radiologue, lui, n’a pas regardé le cliché en détail parce que l’outil n’avait rien signalé. Le patient repart avec un diagnostic incomplet.
Ce scénario n’est pas théorique. L’article publié dans la revue Réseaux en 2023, par Alain Loute et Gérald Gaglio, documente précisément ce type de situation lors d’expérimentations de logiciels d’IA en sénologie et en traumatologie. Une radiographie où une fracture qualifiée d' »évidente » n’est pas détectée par le logiciel y est décrite comme un cas concret observé sur le terrain.
La difficulté tient à la répartition floue de la responsabilité entre le logiciel et le praticien. Le fabricant du logiciel peut arguer que l’outil est un « aide à la décision » et que le médecin reste décisionnaire. Le radiologue peut répondre que l’outil a modifié son attention. Le patient, lui, n’a pas été informé qu’un algorithme participait à l’interprétation de ses images.
Transparence algorithmique et AI Act : ce que change le règlement européen pour la radiologie
Vous avez déjà vu la mention « ce contenu a été généré par une IA » sur un réseau social ? Un mécanisme comparable va s’appliquer à l’imagerie médicale, mais avec des exigences bien plus strictes.
Depuis août 2024, le règlement européen sur l’intelligence artificielle (AI Act, Règlement (UE) 2024/1689) est en vigueur. Les systèmes d’IA intégrés à des dispositifs médicaux de radiologie sont classés automatiquement en IA à haut risque. Concrètement, cela impose aux fabricants une documentation détaillée sur la logique décisionnelle du système, ses points critiques d’erreur et ses limites.
Les obligations de transparence prévues par l’article 50 de ce règlement deviennent juridiquement applicables à partir du 2 août 2026. Elles concernent tous les systèmes, y compris ceux déjà déployés dans les services de radiologie. Le patient devra être informé lorsqu’il interagit avec une IA, et les contenus générés par ces systèmes devront porter un marquage lisible par une machine.
Ce que cela change dans la pratique quotidienne
Jusqu’ici, un radiologue pouvait utiliser un logiciel d’aide à la détection sans que le patient en soit explicitement informé. L’obligation d’information au patient devient une contrainte réglementaire directe, pas seulement un principe éthique. Cela modifie le contenu de la consultation, le temps passé à expliquer, et potentiellement le consentement du patient.
Pour les fabricants de logiciels, la documentation de la logique décisionnelle pose un problème technique : beaucoup de ces systèmes reposent sur des réseaux de neurones profonds dont le fonctionnement interne reste opaque, y compris pour leurs concepteurs. L’exigence de transparence entre en tension avec la nature même de ces outils.
Biais des données d’entraînement en imagerie médicale
Un logiciel d’IA apprend à partir d’images. Si ces images proviennent majoritairement d’une population donnée (par exemple, des patients d’hôpitaux universitaires européens), le logiciel reproduit et amplifie les biais présents dans ces données. Une lésion cutanée sur peau foncée, un nodule pulmonaire chez un patient obèse : les performances du système peuvent varier selon des critères que personne n’a explicitement programmés.
Ce problème n’est pas propre à la radiologie, mais il y prend une dimension particulière. En imagerie, un biais ne se manifeste pas sous forme de recommandation contestable. Il se manifeste par un diagnostic manqué, une anomalie non signalée, un faux négatif silencieux.
- Les jeux de données d’entraînement ne documentent pas toujours l’origine ethnique, l’âge ou les conditions d’acquisition des images, ce qui rend le biais difficile à détecter après coup.
- Un logiciel performant sur un scanner de dernière génération peut produire des résultats dégradés sur un équipement plus ancien, fréquent dans les hôpitaux périphériques.
- Les essais cliniques de ces logiciels sont souvent menés dans des centres de référence, avec des populations et des équipements peu représentatifs de la pratique courante.
Autonomie du radiologue face aux logiciels d’aide à la décision
Que fait un radiologue quand il est en désaccord avec l’algorithme ? En théorie, il garde le dernier mot. En pratique, la question est plus complexe.
L’étude de Loute et Gaglio décrit des situations où les praticiens oscillent entre appropriation et rejet de ces outils. Certains radiologues finissent par accorder une confiance excessive au logiciel, surtout en contexte de surcharge de travail. D’autres le désactivent, estimant qu’il perturbe leur raisonnement clinique.
L’IA modifie le contenu même de l’identité professionnelle du radiologue. Si l’outil détecte mieux que l’humain dans certains cas, quel reste le rôle du médecin ? S’il ne détecte pas aussi bien, pourquoi l’utiliser ? Cette tension entre compétence humaine et performance algorithmique traverse toutes les expérimentations documentées.
Le piège de l’automatisation progressive
Le risque le plus concret n’est pas que l’IA remplace le radiologue. C’est qu’elle érode progressivement sa vigilance. Quand un logiciel pré-trie des centaines de clichés et ne soumet à l’attention du praticien que les cas signalés comme suspects, les images non signalées reçoivent moins d’attention humaine. La compétence de lecture se dégrade avec le temps si elle n’est plus exercée sur l’ensemble des cas.
L’enjeu éthique se situe là : pas dans un scénario de remplacement brutal, mais dans une transformation lente du travail qui échappe aux chartes de principes généraux.
La mise en conformité avec l’AI Act, à partir d’août 2026, va contraindre les services de radiologie à formaliser ce qui relevait jusqu’ici de l’adaptation informelle. Documenter les limites d’un outil, informer le patient, maintenir une compétence de lecture indépendante de l’algorithme : ces obligations transforment des questions éthiques abstraites en contraintes organisationnelles concrètes. Le cadre réglementaire ne résout pas les tensions, mais il les rend plus difficiles à ignorer.
