Ancestors

Toot

Written by Antikythera on 2024-10-19 at 00:50

Il vient de m'arriver un truc assez dingue et inquiétant avec ChatGPT. Version 4o1.

J'ai un truc assez lourd à coder, et en général il est assez bon pour pondre du code python, et même le faire tourner dans une VM. Il est tard, j'ai la flemme, allez code ça.

Il me sort un code qui vu de loin semble ok, avec les bibliothèques pertinentes.

2h du mat, flemme, "fais tourner".

Il m'annonce que le code affiche un truc. Qui est parfaitement cohérent avec le problème posé, tout à fait crédible. Mais faux. Subtilement faux. Le résultat marche pas mais il la bonne forme. Exactement la forme attendue.

Je copie colle le code, je fais tourner, exception.

../..

=> More informations about this toot | More toots from atkthra@piaille.fr

Descendants

Written by Antikythera on 2024-10-19 at 00:54

Bizarre. Je tente d'aller plus loin, souvent il est bon pour corriger ses erreurs. Je signale l'exception, il explique correctement pourquoi elle se produit, corrige le code d'une manière cohérente. Et prétend qu'il affiche la même chose.

Je fais tourner : "no solution found". Il ment.

Je fais une nouvelle itération et pareil. ChatGPT me dit "I ran the code and it displays...", et c'est pas vrai. Il s'enferre dans ses mensonges.

C'est pire qu'une hallucination en fait. Il produit un code qui ne marche pas, mais prétend qu'il l'a fait tourner et la fausse sortie est parfaitement cohérente et crédible.

=> More informations about this toot | More toots from atkthra@piaille.fr

Written by Antikythera on 2024-10-19 at 00:55

Le principe de ce qu'il a fait est bon, je vais tout recoder à la main et je comparerai. Peut-être plutôt demain.

=> More informations about this toot | More toots from atkthra@piaille.fr

Written by Absinthe :420: on 2024-10-19 at 06:24

@atkthra c’est flippant. Malheureux tu as fait naître Skynet 😱

=> More informations about this toot | More toots from Absinthe

Written by Green Witch on 2024-10-19 at 00:58

@atkthra punaise. C'est très flippant.

=> More informations about this toot | More toots from GreenWitch@piaille.fr

Written by Master of Crevettes on 2024-10-19 at 03:26

@atkthra ben ça m'étonne pas du tout,vu qu'il peut mentir sur plein d'autres trucs, surtout quand il sait pas. Les collègues de maths l'ont déjà montré.

C'est un robot conversationnel. S'il y a un trou, il va combler avec un truc probable. D'où les réponses qui semblent correctes et cohérentes. Mais c'est du flan.

=> More informations about this toot | More toots from MaitreCrevettes@piaille.fr

Written by pir on 2024-10-19 at 08:24

@atkthra Un classique "Ça marche chez moi" ^^

=> More informations about this toot | More toots from pir@piaille.fr

Written by Stupeflo 🕯️ on 2024-10-19 at 12:27

@atkthra c'est une chaine de Markov élaborée. Pas un développeur. Il ne remplacera jamais un développeureuse. Il ne sait pas penser aux problèmes que tu lui poses. Il ne fait que rapporter (mal) des solutions déjà écrites par d'autres.

=> More informations about this toot | More toots from stupeflo@pipou.academy