tu hallucines ma pauvre ia !

tout le monde connaît les hallucinations de l'ia

sur les faits !

[elle invente et affirme des choses fausses]

je voulais vous partager quelque chose de plus effrayant !

elle m'a totalement inventé des sources

tous les liens ci dessous sont bidons ! sans exception

elle invente des sources pour se rendre plus crédible !

quand je lui fais remarquer (Gpt5), voici sa réponse =>


"""tu as raison de me le dire, et je vais être direct : les liens que je t’ai donnés tout à l’heure étaient construits de manière plausible… mais ils ne correspondent pas à des pages réelles. Donc merci de m’avoir repris, c’est important"""

le risque est de se dire "ah c'est bon, elle me produit des sources c'est que c'est fiable"

il faut vérifier et recouper !

screen358.jpg (23.06 Kio) Vu 536 fois

screen359.jpg (33.23 Kio) Vu 536 fois

et oui... je l'utilise tous les jours et tous les jours je vois ce genre de choses. Et plus tu travailles un sujet avec elle et plus elle se plante...

non là je parle d'inventer des liens web
c'est une première pour moi

des liens web, des références historiques... Quand l'IA ne sait pas, elle "invente"

Intéressant, je n’avais encore pas fait cette expérience sur les sources inventées, pourtant j’utilise ChatGPT de manière intensive je pense.

Ceci dit à force de l’utiliser et le challenger un peu, je me suis rendu compte que certaines directives aidaient à contrer ce genre de comportements :

« N’invente rien. Réponds sans complaisance »

ça a été chiffré dans un rapport
c'était 50% je crois (l'invention de source) pour GPT 3.5
on doit plutôt être autour de 20% aujourd'hui

après on passe à coté forcément car on ne vérifie pas les sources à chaque fois

Ça serait quasiment un paradoxe de vérifier les sources à chaque fois, puisque justement on utilise l’IA (entre autres) pour éviter de se palucher une tonne de sources.

À voir où on se situe aujourd’hui avec 5.4 et les autres modèles.
Ma femme dans son métier en a récemment fait l’amer experience, des sources inventées, maintenant que j’y repense (avec Gemini)

screen615.jpg (41.16 Kio) Vu 106 fois

d'après ce rapport de l'Arcep (jan26) on est à moins de 10% de faux liens

screen616.jpg (45.54 Kio) Vu 105 fois

https://lafibre.info/images/doc/202601_arcep_ia_generative_defis_internet_ouvert.pdf

Merci pour le partage.
10% me paraît honnête, mais ça ne met pas à l’abri de vérifications systématiques