Les IA génératives commencent à polluer sévèrement les résultats de recherche.
Il y a quelques jours, une recherche sur Daphnis nerii proposait, parmi toutes les images réelles de l'espèce, une image générée par IA, totalement fantaisiste, de papillon rose à 3 paires d'ailes.
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
A priori ça a changé ensuite, mais le phénomène est de + en + fréquent.
Dans cet ex., c'est plutôt flagrant (quoique pas tant que ça si on ne connaît absolument rien aux lépidoptères), mais c'est parfois beaucoup + discret.
Je n'ai pas hâte de voir comment ça va tourner. :/
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
@florencedellerie Je commence à voir de plus en plus de postes d'images faites par IA sur le groupe Entomologie France sur Facebook... Ca n'aide pas...
=> More informations about this toot | More toots from Florian@oc.todon.fr
@Florian Sérieusement ? 😭
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
@florencedellerie Le groupe est loin de ne présenter que des professionnels et inclus beaucoup de gens curieux de ce qu'ils ont trouvés (je ne connais rien du tout moi même et j'en profite pour apprendre), mais hier encore, j'ai vu passer une photo d'Antilope avec une toile d'araignée entre les cornes, totalement fabriquée...
=> More informations about this toot | More toots from Florian@oc.todon.fr
@Florian Holala... 😐
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
@florencedellerie En effet, ça va pas être facile pour se documenter pour identifier des espèces si ça continue.
ps : il est incroyable ce papillon (le vrai, pas la chimère rose). 😍
=> More informations about this toot | More toots from NiTi@masto.nicolastissot.fr
@NiTi
C'est pour ça que certaines personnes commencent à plaider pour la sauvegarde de manuels et ouvrages de référence papier ou sur support hors-web (DVD...) antérieurs à 2015 voire 2010 (date estimée de la mise au point des premiers LLM). @florencedellerie
=> More informations about this toot | More toots from sll@pouet.chapril.org
@sll
Je suis totalement pour. Il nous faut absolument garder des ouvrages non pollués par cette m**** d'"IA".
@NiTi @florencedellerie
=> More informations about this toot | More toots from BM_Bourguignon@mastodon.social
@florencedellerie Comme pour le plastique et les océans?
=> More informations about this toot | More toots from jlpiraux@wallonie-bruxelles.social
@florencedellerie Je vais me faire l'avocat du diable, cependant, la recherche mentionne "Daphnis nerii" donc, tout ce qui est en lien. Ça peut être des photos, des documents, des images générée par IA, des dessins, des GIFs tout moche qui clignote ou même des musiques qui vont en parler pourquoi pas !
Donc la recherche est correcte !
Par contre, la recherche porterait sur : "Photo de Daphnis nerii" qu'il y ait principalement des images générée par IA, oui ce serait pollué.
=> More informations about this toot | More toots from StefOfficiel@mastoot.fr
@StefOfficiel "Daphnis nerii" c'est le nom binominal latin. C'est précisément l'espèce et pas juste "joli papillon rose". La photo n'a aucun rapport avec la recherche.
Le job d'un moteur de recherche (et leurs promesses, accessoirement) n'est pas seulement un affichage bête et méchant de résultats à côté de la plaque sous prétexte qu'un fichier porte le nom recherché, mais la pertinence des résultats (d'où la correction qui a suivi, j'imagine).
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
@StefOfficiel On peut aimer la dérégulation totale, mais perso je suis plus attachée à la valeur de l'information qu'à la valeur de la représentation du statu quo.
C'est aussi comme ça qu'on a obtenu que les résultats de la recherche "lesbienne" arrête de renvoyer vers du contenu p0rn0, et personnellement je pense que c'est une bonne chose.
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
@florencedellerie Ma réponse portait plutôt sur le terme "polluer" ! Effectivement, sur ton exemple, le terme « Lesbienne » était pollué par du porn !
Après je suis d'accord que ça frustre au même titre que lorsque l'on cherche « Tour Eiffel » on ne tomberait que sur des dessins de la tour ou des objets pour touristes au lieu de la photo du monument !
Par contre, ce qui serait intelligent, ce serait d'imposer la mention « IA » car le réalisme peut porter à confusion !
=> More informations about this toot | More toots from StefOfficiel@mastoot.fr
@florencedellerie Pour ma part, l'IA ne me dérange absolument pas, ce qui me dérange c'est de devoir redoubler d'efforts pour différencier l'IA du réel !
=> More informations about this toot | More toots from StefOfficiel@mastoot.fr
@StefOfficiel Oui, je suis aussi favorable aux balises, mais encore faut-il qu'elles soient bien visibles + qu'elles soient elles-mêmes pertinentes.
Certaines images générées par IA passent à travers les mailles des filtres actuellement, mais aussi : certaines images réelles sont considérées comme "générées par IA" par les algos...
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
@StefOfficiel Des artistes, dont le style a été massivement utilisé pour entraîner les IA génératives, se sont retrouvé·es à avoir une note "généré par IA" automatiquement collée à leurs œuvres (pourtant originales) sur Insta...
Donc l'outil a aussi ses limites.
=> More informations about this toot | More toots from florencedellerie@oc.todon.fr
@florencedellerie Demander à l'IA si c'est de l'IA 😅 c'est cool mais c'est le comble !
J'étais plutôt favorable à une mention par le•a créateur•rice.
Le côté visible est difficile voir pas toujours souhaitable.
Un dessin à la main qui est réaliste, doit-on afficher en gros que c'est un dessin ? Je ne pense pas, par contre le stipuler dans sa description oui.
Idem pour tout ce qui est IA génératif !
=> More informations about this toot | More toots from StefOfficiel@mastoot.fr
@florencedellerie Ça me fait penser à la réflexion sur le contenu parodique, j'ai toujours trouvé que la mention "Ceci est une parodie" en début de vidéo ou dans le titre par exemple, cassait tout le narratif !
Là c'est pareil, je ne pense pas que le mettre en avant d'entrée de jeu serait bon pour la créativité, mais ça limiterai l'abus et la confusion le fait qu'une mention y soit.
C'est un peu comme dire immédiatement que c'est satirique avant de commencer à lire un article du Gorafi !
=> More informations about this toot | More toots from StefOfficiel@mastoot.fr
@florencedellerie @StefOfficiel
Je ne sais pas si c'est un effort coordonné, mais le fait est que la « merdification » de pas mal de choses à cause de l'IA va accélérer la diffusion de non-savoir et d'inculture générale. Et dans toutes le langues, puisque les traducteurs seront bientôt tous remplacés, évidemment, quelle évidence...
=> More informations about this toot | More toots from scribe_thorium@toot.portes-imaginaire.org
@scribe_thorium Je ne pense pas que les traducteurs seront remplacés demain ! La traduction renforcé par l'apprentissage machine existe depuis un paquet de temps comme sur Google Translate !
L'IA, à mon sens, ne doit pas être balayé d'un revers de main, mais doit faire office de transparence !
Genre les images devrait porter une mention « Générée par IA »
Dans le cas présent, Google indexe très certainement sans pouvoir détecter que le contenu n'est pas réel !
@florencedellerie
=> More informations about this toot | More toots from StefOfficiel@mastoot.fr
@StefOfficiel @florencedellerie
C'était sarcastique :) Je sais bien qu'on est irremplaçables ! En tout cas, qu'aucune machine actuelle n'est capable de produire la même qualité. Mais je croise régulièrement des gens qui sont convaincus du contraire et qui nous prédisent le chômage, parfois en ricanant. C'est là qu'on sent un vague anti-intellectualisme plus ou moins refoulé. Comme si certains accueillaient volontiers le règne de certaines machines. Bref, c'est un combat.
=> More informations about this toot | More toots from scribe_thorium@toot.portes-imaginaire.org
@florencedellerie je crois avoir vu passer une histoire de bouquin sur les champignons écrit par une IA qui pourrait être un danger pour les gens qui veulent les consommer.
Mais je en sais plus si c'est déjà arrivé ou bien si c'est pour mettre en relief le risque avec la foison de ce genre de "livres" qu'on trouve désormais sur Amazon.
=> More informations about this toot | More toots from ralocycleuse@eldritch.cafe
@florencedellerie A force on aura des pokémon dans la nature
=> More informations about this toot | More toots from theflomax@im-in.space
@florencedellerie
Voilà pourquoi je ne passe que par Duckduckgo pas encore pollué (rien vu de suspect pour l'instant). Pour combien de temps par contre ? ...
=> More informations about this toot | More toots from BM_Bourguignon@mastodon.social
@florencedellerie Ça me fait tristement penser à wordfreq, un outil qui donne la fréquence d’apparition d’un mot sur internet dans différentes langues : le projet ne sera plus mis à jour car il n’est plus possible de constituer un corpus qui n’est pas complètement pollué par les contenus générés par les LLM.
https://github.com/rspeer/wordfreq/blob/master/SUNSET.md
=> More informations about this toot | More toots from lebout2canap@mastodon.tedomum.net This content has been proxied by September (3851b).Proxy Information
text/gemini