Ancestors

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:12

Dans cet article publié dans le dernier n° de la Revue Réseaux, les auteurs analysent l’utilisation de l’intelligence artificielle pour la détection du cancer du sein. Ils mettent en évidence que l’explicabilité de ces systèmes d’IA reste insuffisamment ancrée

Je préviens d'avance : ceci est thread de vulgarisation scientifique beaucoup trop long, fuyez tant qu'il est encore temps. 1/x

https://shs.cairn.info/revue-reseaux-2024-6-page-73?lang=fr&tab=resume

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:12

Donc, l'explicabilité vise à expliquer le fonctionnement des IA du point de vue des concepteurs plus qu’à répondre à l’exigence d’éclairer leurs résultats aux utilisateurs.

Les auteurs soulignent une tension entre l’explicabilité et « l’intelligibilité » pour les utilisateurs. Une des raisons est qu’on se focalise, pour "expliquer" sur certains aspects de la conception de l’IA et pas d’autres, comme par exemple, les données d’entrée.

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:13

Rappel : rendre l’IA explicable permet de donner confiance en ces technologies, et surtout de rendre les concepteurs à même de rendre des comptes en cas de dysfonctionnement.

Les auteurs reviennent sur les 2 méthodes qui permettent de rendre l’IA explicable : 1/ l'utilisation de modèles “interprétables par nature” et 2/ les techniques “post hoc” qui fournissent des infos simplifiées sur les modèles opaques.

·

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:13

La thèse est un peu déstabilisante : l’explicabilité de l'IA n’est pas indispensable pour que les médecins comprennent son fonctionnement et l’intègrent. Et l’IA ne serait "intelligible" que si elle contient les connaissances médicales et biologiques des praticiens

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Toot

Written by Irénée Régnauld 🐑&🚀 on 2025-01-28 at 13:13

Les auteurs reviennent aussi sur les évolutions de la vision par ordinateur, supplantée dans les années 2010 par les réseaux de neurones convolutifs (profonds), qui permettent de mieux comprendre les images : l’IA améliore la précision du diagnostic.

=> More informations about this toot | More toots from maisouvaleweb@mstdn.fr

Descendants