La première fois qu’une personne se fait surprendre par une erreur formulée avec assurance par une IA — une référence juridique inexistante, une citation inventée, un auteur imaginaire ou une règle fiscale légèrement inexacte —, elle apprend une leçon essentielle. Le modèle n’était ni confus ni dans un mauvais jour. Il a fait exactement ce pour quoi il a été conçu, en réponse à une question qui l’a conduit à produire une information fausse.
Ce risque n’a rien d’hypothétique. Dans l’une des premières affaires les plus célèbres, Mata v. Avianca (2023), deux avocats new-yorkais ont déposé un mémoire citant six précédents inexistants. ChatGPT les avait inventés, avec des références et des extraits convaincants, et un juge fédéral a sanctionné les avocats. Ils avaient demandé des précédents à une machine conçue pour produire du plausible ; elle leur a livré exactement cela : un texte plausible.
C’est l’un des rares sujets liés à l’IA pour lesquels la compréhension du mécanisme change réellement la pratique. Une fois que vous comprenez le fonctionnement des hallucinations, elles ne vous surprennent plus et vous évitez de tomber dans leur piège.
Le terme officiel
Le terme couramment employé lorsqu’une IA « produit avec assurance une réponse fausse » est hallucination. Il est imparfait, car le modèle ne voit rien. Il produit simplement un texte fluide et plausible, mais faux.
Le point pratique est essentiel : les hallucinations ne constituent pas un simple défaut temporaire du produit. Elles proviennent de l’écart entre la génération d’un langage plausible et la vérification de la vérité. Il faut donc les anticiper, prévoir des contrôles et ne pas supposer que la prochaine mise à jour du modèle rendra toute vérification inutile.
Pourquoi cela arrive
Pour bien prédire le mot suivant, un modèle de langage doit avoir assimilé une quantité considérable de structures linguistiques : grammaire, faits, schémas conversationnels ou différence entre une note médicale et un tweet. Lorsque vous lui posez une question, il produit la suite qui correspond statistiquement aux régularités apprises.
Voici le piège : aucune alarme interne ne lui signale « je ne sais pas ». Le modèle est entraîné à produire une suite plausible, non une suite vérifiée. Le plus souvent, le plausible et le vrai se recoupent, car les données d’entraînement contiennent des informations exactes sur les sujets courants. Mais lorsque le modèle ne dispose pas d’informations fiables sur une question précise — une affaire juridique spécialisée, un événement récent, une personne peu connue ou un chiffre exact —, il produit tout de même une réponse plausible. Celle-ci est alors tout simplement inventée.
En pratique, le modèle dispose d’un mécanisme puissant pour produire une suite probable, mais d’un mécanisme bien plus faible pour démontrer qu’elle est vraie. Sur les sujets courants, les deux concordent souvent. Sur les sujets spécialisés, récents, propriétaires ou très précis, ils divergent.
Ne prenez ni l’assurance, ni la qualité de présentation, ni la longueur pour des preuves. Une réponse fausse produite par l’IA peut être mieux mise en forme que le document source.
Où les hallucinations apparaissent le plus souvent
Le modèle hallucine le plus souvent lorsqu’on lui demande :
- Des noms spécifiques, des dates, des chiffres ou des citations. “Qui a dit X ?” “Quelle année Y a-t-elle été publiée ?” “Citez trois études sur Z.” Les schémas statistiques sont excellents pour générer la forme d’une citation et peu fiables pour les valeurs réelles.
- Des sujets spécialisés ou obscurs. Tout ce qui est peu représenté dans les données d’entraînement : petites entreprises, maladies rares, réglementations régionales ou personnes peu connues. Plus les données sont rares, plus l’écart entre « plausible » et « vrai » est grand.
- Des événements récents. Les modèles ont une date de coupure d’entraînement. Si vous demandez quelque chose qui s’est produit après cela, sauf si le modèle recherche activement le web, il dira soit “Je ne suis pas sûr” (le bon résultat) soit devinera.
- Des informations propriétaires propres à votre entreprise. Le modèle ne possède ni votre liste de clients, ni votre base de code, ni vos contrats, ni vos données internes. Si vous l’interrogez à leur sujet, il produira ce à quoi ces informations pourraient vraisemblablement ressembler.
- Des mathématiques et du raisonnement exact. Calculs arithmétiques en plusieurs étapes, conversions d’unités, calculs financiers et toute opération dans laquelle une petite erreur se propage. Les modèles se sont améliorés, surtout lorsqu’ils peuvent utiliser une calculatrice, mais ils ne sont pas encore fiables lorsque la précision est critique.
Remarquez le motif : le modèle échoue de manière prévisible lorsque vous lui demandez quelque chose spécifique sans lui fournir une source fiable.
Où les hallucinations ont rarement de conséquences
L’autre côté est que le modèle est fiable dans de grandes zones où la plupart des utilisateurs passent effectivement du temps :
- Rédaction et structuration de textes. Aucun « fait » n’est nécessaire.
- Réécriture et édition de votre propre texte. La source de vérité est ce que vous lui avez donné.
- Résumé d’un document que vous avez fourni. Le modèle peut citer et compresser ce qui est déjà devant lui.
- Réflexion collective et génération d’idées. Il n’existe pas de réponse « vraie » à halluciner.
- Explication de concepts bien connus. Tout sujet bien représenté dans les données d’entraînement — notions scientifiques élémentaires, grands faits historiques, schémas de programmation courants — est généralement bien maîtrisé.
Si vous restez dans ces domaines, les hallucinations vous poseront rarement problème. Si vous vous aventurez sur le terrain des « faits précis concernant des sujets spécialisés », attendez-vous à en rencontrer.
Trois habitudes qui vous protègent
Vous n’avez pas besoin d’un doctorat en apprentissage automatique pour éviter le piège. Vous avez besoin de trois habitudes.
1. Considérez toute affirmation précise comme un point de départ, pas comme une conclusion
Si le modèle vous donne un nom, une date, un chiffre, une référence, une réglementation ou une citation — et que la réponse a de l’importance — vérifiez-la. Une recherche rapide, une comparaison avec le document source ou une question complémentaire comme « Où avez-vous trouvé cela ? Citez le passage. » permet de détecter la plupart des problèmes. Plus la réponse est courte et précise, plus le contrôle est important.
Un suivi particulièrement utile : “Quelle source vérifierait cela, et quelles affirmations exactes devrais-je vérifier ?” Cela ne prouve pas la réponse, mais transforme une réponse large en une liste de vérification.
2. Utilisez la recherche lorsque la réponse doit être récente ou vérifiable
Tous les principaux assistants d’IA proposent désormais un mode de recherche sur le Web. ChatGPT possède un bouton de recherche ; Claude l’intègre à de nombreuses tâches ; Gemini en dispose nativement. Activez ce mode lorsque votre question porte sur une information factuelle ou susceptible d’évoluer. Le modèle devient bien plus fiable parce qu’il peut citer des sources réelles, et vous obtenez des liens à vérifier.
Une erreur courante consiste à poser une question de recherche au modèle de base, puis à faire confiance à sa réponse. Le bon réflexe est d’ouvrir une nouvelle conversation, d’activer la recherche, puis de poser la question. Cela ne demande qu’un clic supplémentaire.
3. Donnez-lui la source au lieu de lui demander de se souvenir
Si vous possédez le document, collez-le. Si vous avez les données, joignez le tableau. Si vous disposez de l’e-mail d’origine, incluez-le. Le modèle est beaucoup plus fiable lorsqu’il résume ou analyse un contenu fourni que lorsqu’on lui demande de retrouver une information dans ce qu’il a appris.
Demande fragile : « Que dit le droit estonien sur les périodes d’essai ? »
Meilleure demande : « Voici la section de la loi estonienne sur les contrats de travail consacrée aux périodes d’essai [coller]. Expliquez ce qu’elle implique pour un contrat de six mois. »
La première demande présente un fort risque d’hallucination. La seconde s’appuie sur un texte réel et permet au modèle de rester précis.
Un flux de travail pour vérifier les sources
Lorsque la réponse compte, procédez ainsi avant de l’utiliser :
- Soulignez les affirmations spécifiques. Noms, dates, prix, citations, affirmations juridiques, affirmations médicales et chiffres exacts.
- Demandez les cibles de vérification. “Quelles affirmations dans votre réponse devrais-je vérifier, et quelle source vérifierait chacune ?”
- Vérifiez la source primaire. Privilégiez les documents officiels, les textes réglementaires originaux, les pages de produits, les déclarations officielles, les contrats ou les documents d’origine plutôt que les résumés.
- Remplacez les affirmations non soutenues. Si vous ne pouvez pas vérifier une affirmation rapidement, supprimez-la, marquez-la comme incertaine ou réécrivez-la comme une question.
- Conservez le lien vers la source. Vous saurez ainsi, plus tard, d’où provient la réponse.
La liste de vérification jointe à cet article transforme cela en une revue rapide de “oui/non”.
Une exception utile : lorsque l’hallucination est acceptable
Parfois, vous voulez que le modèle invente : c’est précisément l’objectif. Fiction, réflexion collective, scénarios hypothétiques, cas limites pour les tests, variations créatives sur un thème ou prompts tels que « quelle serait la pire version de cet argument ? ». Dans un travail créatif, l’hallucination n’est pas un défaut, mais une fonction utile. Distinguez simplement « donnez-moi cinq noms d’entreprises plausibles » — bon usage — de « donnez-moi cinq entreprises réelles qui font X » — piège classique.
Qu’en est-il des mises à niveau du modèle ?
Les modèles récents hallucinent en moyenne moins que les anciens, surtout sur les sujets courants. Mais dans les cas rares — événements récents, sujets spécialisés ou détails propriétaires —, même les meilleurs modèles de 2026 inventent encore des réponses avec assurance. Ne supposez pas que la prochaine mise à jour résoudra ce problème. La cause structurelle des hallucinations reste inchangée.
Une petite liste de vérification de sécurité
Avant de vous fier à une réponse de l’IA, demandez :
- Cette réponse contient-elle des noms, des dates, des chiffres, des citations, des lois, des prix, des conseils médicaux ou des affirmations financières ?
- Le sujet est-il récent, spécialisé, local, propriétaire ou à haut risque ?
- Le modèle a-t-il utilisé la recherche, une source fournie, une base de données ou un calculateur ?
- Puis-je pointer la phrase, le tableau ou l’enregistrement qui soutient l’affirmation ?
Si vous répondez oui à la question 1 ou 2, et non à la question 3 ou 4, le risque d’hallucination est réel. Vérifiez avant d’agir.
À retenir
Les hallucinations sont prévisibles, et non aléatoires. Elles se concentrent autour de noms précis, de dates, de chiffres, de sujets obscurs, d’événements récents, de vos données privées et de calculs exacts. Elles sont absentes ou sans conséquence lors de la rédaction, de la réécriture, du résumé, de la recherche d’idées et de l’explication de concepts courants.
Prenez l’habitude de les repérer : vérifiez les détails précis, activez la recherche pour les faits et fournissez la source au lieu de vous fier à la mémoire du modèle. Avec ces trois réflexes, l’IA devient bien plus fiable en pratique, car vous lui ajoutez la couche de vérification qu’elle ne peut pas assurer seule de manière constante.
