Ancestors

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:12

Dans cet article publié dans le dernier n° de la Revue Réseaux, les auteurs analysent l’utilisation de l’intelligence artificielle pour la détection du cancer du sein. Ils mettent en évidence que l’explicabilité de ces systèmes d’IA reste insuffisamment ancrée

Je préviens d'avance : ceci est thread de vulgarisation scientifique beaucoup trop long, fuyez tant qu'il est encore temps. 1/x

https://shs.cairn.info/revue-reseaux-2024-6-page-73?lang=fr&tab=resume

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:12

Donc, l'explicabilité vise à expliquer le fonctionnement des IA du point de vue des concepteurs plus qu’à répondre à l’exigence d’éclairer leurs résultats aux utilisateurs.

Les auteurs soulignent une tension entre l’explicabilité et « l’intelligibilité » pour les utilisateurs. Une des raisons est qu’on se focalise, pour "expliquer" sur certains aspects de la conception de l’IA et pas d’autres, comme par exemple, les données d’entrée.

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:13

Rappel : rendre l’IA explicable permet de donner confiance en ces technologies, et surtout de rendre les concepteurs à même de rendre des comptes en cas de dysfonctionnement.

Les auteurs reviennent sur les 2 méthodes qui permettent de rendre l’IA explicable : 1/ l'utilisation de modèles “interprétables par nature” et 2/ les techniques “post hoc” qui fournissent des infos simplifiées sur les modèles opaques.

·

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:13

La thèse est un peu déstabilisante : l’explicabilité de l'IA n’est pas indispensable pour que les médecins comprennent son fonctionnement et l’intègrent. Et l’IA ne serait "intelligible" que si elle contient les connaissances médicales et biologiques des praticiens

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:14

Venons-en au problème : les praticiens pathologistes déclarent que l’opacité des modèles est liée au fait que les résultats n’ont aucun lien avec leurs connaissances biologiques et médicales. Comment être sûr, par exemple, que le modèle ne base pas son diagnostic sur l’analyse d’une bulle d’air ?

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Toot

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:14

“Bien que cela ne rende pas leur fonctionnement interne (de l'IA) plus explicable pour les médecins, les résultats en sortie possèdent nécessairement une pertinence biologique, ce qui leur donne du sens aux yeux des praticiens.”

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Descendants