Intelligence artificielle
Garder son jugement face à l'IA
Trois défauts structurels à connaître, et la méthode de vérification en trois questions.
01Objectif
À la fin de cette séquence : Identifier une hallucination, reconnaître un biais, comprendre pourquoi l'assurance du ton ne prouve rien, et vérifier une information de manière autonome.
02L'essentiel
L'hallucination n'est pas une panne
Le système produit le mot le plus plausible, pas le plus vrai. Il peut inventer une référence, une citation, une loi — avec une syntaxe parfaite. C'est une conséquence de son fonctionnement, pas un défaut réparable.
Le biais vient des données, donc de nous
Le modèle reproduit les régularités du monde tel qu'il a été écrit, déséquilibres inclus, et les applique à très grande échelle.
La forme n'atteste pas le fond
Un texte fluide, structuré et assuré paraît fiable. Cette impression est un artefact d'écriture : elle ne renseigne en rien sur l'exactitude.
Vérifier en trois questions
Qui l'affirme à l'origine ? Où puis-je le lire directement ? Qui aurait intérêt à ce que je le croie ? Une réponse sans source vérifiable est une hypothèse, pas un fait.
03Le schéma
04À retenir
- Une IA peut inventer avec aplomb. Sans source, une affirmation reste une hypothèse.
- Le style ne prouve rien. Fluidité et exactitude sont indépendantes.
- Trois questions : qui l'affirme, où le lire, qui y a intérêt.
05Exercice
Demandez à un outil d'IA trois références précises sur un sujet que vous connaissez bien — titre, auteur, année. Vérifiez chacune à la source. Notez combien existent réellement, et combien sont exactes dans le détail.
Indice — Vérifiez aussi les références qui existent : le titre est souvent réel mais l'année ou l'auteur inventés.
06Vérification des acquis
Qu'est-ce qu'une hallucination ?
Une affirmation fausse produite avec assurance, parce que le système génère l'énoncé le plus plausible et non le plus exact. Elle ne s'accompagne d'aucun signal d'incertitude.
Pourquoi ne peut-on pas se fier à l'assurance du ton ?
Parce que le ton est une propriété du texte produit, indépendante de la véracité. Le système écrit aussi bien une chose vraie qu'une chose fausse.