Dans cet article publié dans le dernier n° de la Revue Réseaux, les auteurs analysent l’utilisation de l’intelligence artificielle pour la détection du cancer du sein. Ils mettent en évidence que l’explicabilité de ces systèmes d’IA reste insuffisamment ancrée
Je préviens d'avance : ceci est thread de vulgarisation scientifique beaucoup trop long, fuyez tant qu'il est encore temps. 1/x
https://shs.cairn.info/revue-reseaux-2024-6-page-73?lang=fr&tab=resume
=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr
Donc, l'explicabilité vise à expliquer le fonctionnement des IA du point de vue des concepteurs plus qu’à répondre à l’exigence d’éclairer leurs résultats aux utilisateurs.
Les auteurs soulignent une tension entre l’explicabilité et « l’intelligibilité » pour les utilisateurs. Une des raisons est qu’on se focalise, pour "expliquer" sur certains aspects de la conception de l’IA et pas d’autres, comme par exemple, les données d’entrée.
=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr
Rappel : rendre l’IA explicable permet de donner confiance en ces technologies, et surtout de rendre les concepteurs à même de rendre des comptes en cas de dysfonctionnement.
Les auteurs reviennent sur les 2 méthodes qui permettent de rendre l’IA explicable : 1/ l'utilisation de modèles “interprétables par nature” et 2/ les techniques “post hoc” qui fournissent des infos simplifiées sur les modèles opaques.
·
=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr
La thèse est un peu déstabilisante : l’explicabilité de l'IA n’est pas indispensable pour que les médecins comprennent son fonctionnement et l’intègrent. Et l’IA ne serait "intelligible" que si elle contient les connaissances médicales et biologiques des praticiens
=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr
Venons-en au problème : les praticiens pathologistes déclarent que l’opacité des modèles est liée au fait que les résultats n’ont aucun lien avec leurs connaissances biologiques et médicales. Comment être sûr, par exemple, que le modèle ne base pas son diagnostic sur l’analyse d’une bulle d’air ?
=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr
Une question reste en suspens : la généralisation des modèles à tous les laboratoires, qui ne fonctionnent pas de la même manière, car ils utilisent des protocoles différents dans la préparation des échantillons des tissus. La prochaine étape est donc la standardisation.
=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr
Conclusion : “on peut supposer qu’une des conditions du succès des IA médicales réside dans la capacité des concepteurs à intégrer, d’une manière ou d’une autre, les connaissances du médecin dans ces dispositifs.”
Super papier.
=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr This content has been proxied by September (3851b).Proxy Information
text/gemini