DIAGNOSTIC : L’IA perçoit l’imperceptible et l’inattendu
Cette étude surprenante, menée par des informaticiens, des techniciens et des médecins du Dartmouth College, révèle que l’intelligence artificielle (IA) peut apporter des diagnostics inattendus et, imperceptibles pour l’Homme. Ces travaux livrent un exemple de cette capacité qui dépasse en fait les besoins médicaux et humains : combinée à la radiographie -du genou-, l’IA peut par exemple percevoir si le patient est…un amateur de bière. Cette capacité à apporter
« de bonnes informations pour de mauvaises raisons »
est documentée dans la revue Nature Communications.
L'intelligence artificielle fait les preuves de sa valeur ajoutée en médecine et pour les professionnels de la santé comme pour les chercheurs. En particulier sa valeur diagnostique, notamment lorsqu'il s'agit d'interpréter des images médicales. Mais là où un radiologue peut identifier des fractures et d'autres anomalies à partir d'une radiographie du genou, les modèles d'IA peuvent voir des indices imperceptibles pour les humains, ce qui théoriquement accroît la puissance de l'imagerie médicale.
L’équipe de Dartmouth met ici en lumière une « déviance » de l'utilisation de l'IA dans la recherche en imagerie médicale : l’IA peut en effet apporter des résultats très précis mais trompeurs connu sous le nom « d'apprentissage par raccourci ».
Une « déviance » de l'IA
L’étude analyse plus de 25.000 radiographies du genou effectuées dans le cadre de l'Osteoarthritis Initiative. Cette analyse révèle que :
- les modèles d'IA peuvent « prédire » des traits sans rapport, inattendus et invraisemblables, comme le fait que les patients s'abstiennent de manger des haricots ou qu’ils consomment de la bière,
-
curieusement les niveaux de précision de ces informations inattendues sont en général surprenants ;
- ces prédictions n’ont évidemment aucune base médicale connue et a priori aucun intérêt ;
- tous les indices identifiés ne sont pas fiables cependant, précisent les chercheurs ;
Ainsi, si les modèles d’IA peuvent identifier des traits que les humains ne peuvent pas percevoir, « il est essentiel d’être prudent, d’éviter de tirer des conclusions trop vite ou trompeuses et de garantir la preuve scientifique ».
Cependant, et tout en restant très prudent, l’étude démontre que l’IA pourrait avoir le potentiel de transformer l’imagerie médicale ou d’autres outils diagnostiques. Car les scientifiques ont bien tenté d’éliminer certains facteurs de confusion (différences dans les équipements à rayons X, par ex.) pouvant entraîner des biais, mais ces tentatives visant à éliminer ces biais n’ont eu qu’un succès mitigé.
« Ces systèmes sont pernicieux : lorsqu’on les empêche d’apprendre certains types de données, ils vont en chercher d’autres ».
Cette recherche sensibilise à la mise en œuvre de normes d’évaluation rigoureuses dans la recherche médicale basée sur l’IA. Comme cela existe déjà dans les études précliniques et les études cliniques.
« L'IA, c'est presque comme avoir affaire à une intelligence extraterrestre. On pourrait dire que le modèle triche, mais, en fait il n’obéit pas à la logique ou au raisonnement humain, tels que nous médecins les pratiquons habituellement ».
Source: Scientific Reports 25 Nov, 2024 DOI: 10.1038/s41746-021-00438-z The risk of shortcutting in deep learning algorithms for medical imaging research
Plus sur l’Intelligence artificielle en santé
Cette actualité a été publiée le 24/02/2025 par
Autres actualités sur le même thème
LONGÉVITÉ : L'âge neurologique prédit l'espérance de vie
Actualité publiée il y a 7 années 9 mois
Les scientifiques du monde entier cherchent à trouver des biomarqueurs fiables pour mesurer l'âge biologique, à partir d’échantillons de sang ou de cheveux. L’...COVID-19 : Un impact critique sur le diagnostic des cancers
Actualité publiée il y a 3 années 2 mois La pandémie de COVID-19 a entraîné des lacunes importantes dans les procédures de diagnostic des cancers, souligne cette étude menée à l'Université du Maryland...Maladie de PARKINSON : Une biopsie cutanée pour la détecter ?
Actualité publiée il y a 2 années 10 mois Une biopsie cutanée pour identifier les patients atteints de la maladie de Parkinson, c'est la proposition diagnostique de cette équipe de neurologues de l’...FIBRILLATION AURICULAIRE : Et si tout le risque était génétique ?
Actualité publiée il y a 5 mois 1 semaine « Vos gènes déterminent votre risque de fibrillation auriculaire » , écrivent ces cardiologues de l’Université de Copenhague. Leur étude génétique à grande...
