tu hallucines ma pauvre ia !

Forum informatique : choix de matériel, écrans, logiciels, montage et optimisation d'une station de trading, dépannage entre membres.
chad86
Chevalier Jedi
Messages : 2868
Enregistré le : 29 janv. 2026 20:42

tu hallucines ma pauvre ia !

Message non lu par chad86 »

tout le monde connaît les hallucinations de l'ia :?

sur les faits !

[elle invente et affirme des choses fausses]

je voulais vous partager quelque chose de plus effrayant !

elle m'a totalement inventé des sources

tous les liens ci dessous sont bidons ! sans exception

elle invente des sources pour se rendre plus crédible !

quand je lui fais remarquer (Gpt5), voici sa réponse =>


"""tu as raison de me le dire, et je vais être direct : les liens que je t’ai donnés tout à l’heure étaient construits de manière plausible… mais ils ne correspondent pas à des pages réelles. Donc merci de m’avoir repris, c’est important"""

le risque est de se dire "ah c'est bon, elle me produit des sources c'est que c'est fiable"

il faut vérifier et recouper !

screen358.jpg
screen358.jpg (23.06 Kio) Vu 5393 fois
screen359.jpg
screen359.jpg (33.23 Kio) Vu 5393 fois
Avatar du membre
Benoist Rousseau
Trader Futures / CME Member
Messages : 174719
Enregistré le : 06 sept. 2011 22:45

Re: tu hallucines ma pauvre ia !

Message non lu par [phpBB Debug] PHP Warning: in file [ROOT]/vendor/twig/twig/src/Extension/CoreExtension.php on line 570: strtr(): Ignoring replacement of empty string
Benoist Rousseau
»

et oui... je l'utilise tous les jours et tous les jours je vois ce genre de choses. Et plus tu travailles un sujet avec elle et plus elle se plante...
chad86
Chevalier Jedi
Messages : 2868
Enregistré le : 29 janv. 2026 20:42

Re: tu hallucines ma pauvre ia !

Message non lu par chad86 »

non là je parle d'inventer des liens web
c'est une première pour moi
Avatar du membre
Benoist Rousseau
Trader Futures / CME Member
Messages : 174719
Enregistré le : 06 sept. 2011 22:45

Re: tu hallucines ma pauvre ia !

Message non lu par [phpBB Debug] PHP Warning: in file [ROOT]/vendor/twig/twig/src/Extension/CoreExtension.php on line 570: strtr(): Ignoring replacement of empty string
Benoist Rousseau
»

des liens web, des références historiques... Quand l'IA ne sait pas, elle "invente"
chad86
Chevalier Jedi
Messages : 2868
Enregistré le : 29 janv. 2026 20:42

Re: tu hallucines ma pauvre ia !

Message non lu par chad86 »

Avatar du membre
DonPaolo
Stormtrooper
Messages : 135
Enregistré le : 21 févr. 2026 08:08

Re: tu hallucines ma pauvre ia !

Message non lu par DonPaolo »

Intéressant, je n’avais encore pas fait cette expérience sur les sources inventées, pourtant j’utilise ChatGPT de manière intensive je pense.

Ceci dit à force de l’utiliser et le challenger un peu, je me suis rendu compte que certaines directives aidaient à contrer ce genre de comportements :

« N’invente rien. Réponds sans complaisance »
chad86
Chevalier Jedi
Messages : 2868
Enregistré le : 29 janv. 2026 20:42

Re: tu hallucines ma pauvre ia !

Message non lu par chad86 »

ça a été chiffré dans un rapport
c'était 50% je crois (l'invention de source) pour GPT 3.5
on doit plutôt être autour de 20% aujourd'hui

après on passe à coté forcément car on ne vérifie pas les sources à chaque fois
Avatar du membre
DonPaolo
Stormtrooper
Messages : 135
Enregistré le : 21 févr. 2026 08:08

Re: tu hallucines ma pauvre ia !

Message non lu par DonPaolo »

Ça serait quasiment un paradoxe de vérifier les sources à chaque fois, puisque justement on utilise l’IA (entre autres) pour éviter de se palucher une tonne de sources.

À voir où on se situe aujourd’hui avec 5.4 et les autres modèles.
Ma femme dans son métier en a récemment fait l’amer experience, des sources inventées, maintenant que j’y repense :D (avec Gemini)
chad86
Chevalier Jedi
Messages : 2868
Enregistré le : 29 janv. 2026 20:42

Re: tu hallucines ma pauvre ia !

Message non lu par chad86 »

screen615.jpg
screen615.jpg (41.16 Kio) Vu 4963 fois
chad86
Chevalier Jedi
Messages : 2868
Enregistré le : 29 janv. 2026 20:42

Re: tu hallucines ma pauvre ia !

Message non lu par chad86 »

d'après ce rapport de l'Arcep (jan26) on est à moins de 10% de faux liens

screen616.jpg
screen616.jpg (45.54 Kio) Vu 4962 fois

https://lafibre.info/images/doc/202601_arcep_ia_generative_defis_internet_ouvert.pdf
Avatar du membre
DonPaolo
Stormtrooper
Messages : 135
Enregistré le : 21 févr. 2026 08:08

Re: tu hallucines ma pauvre ia !

Message non lu par DonPaolo »

Merci pour le partage.
10% me paraît honnête, mais ça ne met pas à l’abri de vérifications systématiques
chad86
Chevalier Jedi
Messages : 2868
Enregistré le : 29 janv. 2026 20:42

Re: tu hallucines ma pauvre ia !

Message non lu par chad86 »

sur certains sujets l'ia doit plus halluciner de faux liens que dans d'autres

là on était sur un accident ferroviaire récent

mes questions étaient, pour beaucoup, sans réponse fiable et sourçable

============================

faute de fiabilité, les hallucinations ont tout de même un bon coté

la créativité

le corollaire d'inventer des choses c'est la création
et donc potentiellement l'originalité et la nouveauté

pour un nouvel antibiotique ça peut servir

par exemple

l'art, les-idées-farfelues-qui-sauvent-le-monde..

la créativité est une facette de l'intelligence

Spoiler:
La citation la plus célèbre d'Albert Einstein sur la créativité est :
«La créativité, c'est l'intelligence qui s'amuse»

On lui attribue aussi largement une autre phrase très proche sur le même sujet :
«La créativité est contagieuse, faites-la tourner»

ainsi que sa célèbre réflexion sur l'imagination :
«L'imagination est plus importante que la connaissance»

:mercichinois:

Spoiler:
Copie d'écran_20260808_181207.png
Copie d'écran_20260808_181207.png (67.29 Kio) Vu 3522 fois