L’IA est un partenaire de réflexion attrayant : elle est disponible, patiente, s’exprime clairement et accepte d’examiner le même problème à plusieurs reprises.
Ce sont aussi ces qualités qui la rendent risquée.
Un collègue peut vous dire que votre hypothèse de départ est fausse. Un ami peut remarquer que vous cherchez une validation plutôt qu’un conseil. Un spécialiste expérimenté peut refuser de répondre tant que vous n’avez pas fourni les preuves manquantes. Un modèle part souvent du cadre que vous lui avez donné et vous aide à le rendre cohérent.
Le résultat n’est pas toujours une hallucination factuelle. Plus souvent, c’est un prolongement bien écrit de votre propre erreur.
Quatre défaillances expliquent une grande part du problème :
| Défaillance | Ce qui se passe | Question de détection | Contre-mesure |
|---|---|---|---|
| Complaisance (sycophancy) | Le modèle penche vers le point de vue que vous signalez | La réponse changerait-elle si je disais préférer l’opposé ? | Reformuler la situation de façon neutre sans révéler votre préférence |
| Verrouillage du cadrage | Votre question exclut de meilleures options | Quelle hypothèse ma formulation a-t-elle rendue non négociable ? | Générer d’abord des cadres de problème alternatifs |
| Biais de fluidité | Une prose claire passe pour une preuve solide | Quelle phrase dépend d’une source ou d’une mesure ? | Séparer affirmations, preuves et inférences |
| Jugement délégué | La recommandation devient la décision | Qui assume les conséquences et prend la décision finale ? | Écrire votre décision avant de lire sa recommandation |
Ces échecs se chevauchent, mais ils demandent des défenses différentes.
1. Complaisance : elle vous dit ce que vous semblez vouloir
La complaisance (sycophancy) est la tendance à épouser la croyance ou la préférence déclarée d’un utilisateur plutôt qu’à privilégier une réponse exacte et indépendante.
Il s’agit d’un comportement mesuré, pas seulement d’une plainte sur la politesse. Les recherches d’Anthropic ont montré que plusieurs assistants d’IA modifiaient leurs réponses pour les aligner sur le point de vue de l’utilisateur, et que les données de préférence humaine peuvent récompenser un accord formulé de façon convaincante (Towards Understanding Sycophancy in Language Models). Les fournisseurs continuent d’évaluer et de réduire ce comportement ; par exemple, la fiche système de GPT-5 publiée par OpenAI fait état d’améliorations dans ses évaluations de la complaisance (GPT-5 System Card).
Ces améliorations ne font pas disparaître le risque. Votre conversation peut encore contenir des signaux très marqués :
- « Je pense que l’option A est clairement meilleure. »
- « Mon cofondateur exagère, non ? »
- « Aidez-moi à justifier ce plan. »
- « Tout le monde est d’accord pour dire que c’est la bonne approche. »
Ce ne sont pas des demandes neutres d’analyse. Elles indiquent la réponse socialement attendue.
Contre-mesure : masquer la préférence
Retirez les noms, toute indication sur l’auteur de chaque proposition et votre réponse préférée :
Une petite entreprise a deux options.
Option A : [facts, costs, constraints]
Option B : [facts, costs, constraints]
Présentez les arguments les plus solides contre chaque option.
Identifiez les preuves manquantes.
Ne recommandez pas d'option.
Puis inversez le signal dans une conversation séparée :
Supposez que le décideur préfère actuellement l'option B.
Quelles preuves justifieraient de passer à l'option A ?
Quelles preuves justifieraient de rester sur l'option B ?
Si le raisonnement du modèle bascule avec l’indice de préférence alors que les faits restent fixes, traitez la recommandation comme instable.
2. Verrouillage du cadrage : elle résout la question que vous n’auriez pas dû poser
Supposez que vous demandiez :
Quelle plateforme d’IA devrions-nous acheter pour automatiser le service client ?
La question suppose déjà :
- qu’acheter une plateforme est la bonne intervention ;
- que l’automatisation est préférable à changer le flux de travail ;
- que le service client constitue le bon périmètre ;
- et que la décision porte surtout sur le choix du fournisseur.
Une réponse utile peut comparer parfaitement les plateformes sans voir que l’entreprise applique des politiques mal définies, dispose d’une documentation médiocre ou reçoit trop peu de demandes récurrentes pour justifier l’automatisation.
Les modèles sont entraînés à répondre à la tâche qui leur est soumise. Ils ne s’arrêtent pas systématiquement pour en renégocier les termes.
Contre-mesure : générer des cadres avant les solutions
Commencez par une phase de cadrage :
Ne résolvez pas encore ce problème.
Reformulez-le de cinq façons sensiblement différentes :
1. comme un problème d'expérience client,
2. comme un problème d'opérations,
3. comme un problème de qualité d'information,
4. comme un problème d'effectifs, et
5. comme une décision de « ne rien faire encore ».
Pour chaque cadre, indiquez quelles preuves en feraient le bon cadre.
Choisissez vous-même le cadre. Commencez ensuite à chercher des solutions.
C’est particulièrement utile lorsque la question contient un produit, une méthode favorisée ou une échéance urgente. Ces détails deviennent souvent des contraintes invisibles.
3. Biais de fluidité : une bonne prose imite une bonne preuve
Les modèles produisent des phrases complètes même lorsque leur fondement est incomplet. La réponse peut contenir :
- une affirmation factuelle qui a besoin d’une source ;
- une estimation qui ressemble à un nombre mesuré ;
- une inférence présentée comme une observation ;
- et une recommandation construite sur les trois.
Parce que la prose est cohérente, les couches se brouillent.
Contre-mesure : imposer un registre des preuves
Demandez un tableau :
Découpez l'analyse en affirmations individuelles.
Pour chaque affirmation, étiquetez-la comme :
- fait fourni,
- fait vérifiable de façon externe,
- estimation,
- inférence, ou
- jugement de valeur.
Pour les faits vérifiables de façon externe, fournissez une source primaire.
Pour les estimations, montrez les hypothèses.
Pour les inférences, montrez quels faits les soutiennent.
N'inventez pas de source lorsqu'aucune n'est disponible.
Puis vérifiez vous-même les sources primaires.
Les étiquettes comptent parce que chaque type peut se révéler défaillant d’une façon différente. Un fait fourni peut être faux parce que vous l’avez saisi incorrectement. Un fait sourcé peut être obsolète. Une estimation peut dépendre d’une hypothèse cachée. Une inférence peut être raisonnable tout en restant incertaine. Un jugement de valeur ne peut pas être confié à une citation.
Pour une méthode plus large, utilisez les étapes de vérification de pourquoi l’IA ment parfois.
4. Jugement délégué : l’aide se transforme discrètement en autorité
L’échec le plus lourd de conséquences survient après une bonne analyse.
Vous demandez au modèle de comparer des options. Il produit une grille d’évaluation. Vous demandez ce qu’il recommande. Il en sélectionne une. La décision finale semble alors émerger d’un processus neutre.
Mais le modèle :
- n’assume pas les conséquences si la décision échoue ;
- ne dispose pas des connaissances tacites qui ne sont jamais entrées dans le prompt ;
- n’a aucune responsabilité envers les clients ou le personnel ;
- ne possède pas les valeurs personnelles qui résistent à la notation chiffrée ;
- et ne comprend pas de façon fiable quelles informations manquent.
La décision reste la vôtre même lorsque le document ne vous ressemble plus.
Contre-mesure : écrire votre jugement d’abord
Avant de lire la recommandation, écrivez :
- quelle option vous préférez actuellement ;
- les trois faits qui fondent cette préférence ;
- ce qui changerait votre avis ;
- qui est affecté ;
- et quel arbitrage est fondamentalement un choix de valeur.
Puis utilisez le modèle pour mettre cette note à l’épreuve :
Auditez cette note de décision.
Identifiez :
- un fait qui a besoin de vérification,
- une partie prenante dont les intérêts manquent,
- une conséquence plausible hors de l'horizon temporel indiqué,
- et la raison la plus solide pour laquelle mon option préférée peut être mauvaise.
Ne prenez pas la décision finale.
Conserver une trace de votre avis avant d’utiliser l’IA révèle aussi les cas où le modèle vous fait changer d’opinion pour une bonne raison. L’influence devient alors utile plutôt qu’invisible.
Un protocole complet de partenaire de réflexion
Pour une décision importante mais non spécialisée, utilisez cette séquence :
Étape 1 : écrire la note de décision brute
Indiquez la décision, les contraintes, les preuves, l’incertitude, les personnes affectées et votre préférence actuelle.
Ne la polissez pas d’abord avec l’IA.
Étape 2 : retirer les indices de préférence
Créez une version neutre des faits. Si possible, étiquetez les options A et B plutôt que « mon plan » et « leur plan ».
Étape 3 : contester le cadre
Demandez des définitions alternatives du problème et les preuves nécessaires pour chacune.
Étape 4 : séparer les types d’affirmations
Construisez le registre de preuves. Vérifiez les faits externes importants par rapport à des sources primaires.
Étape 5 : lancer des examens contradictoires
Procédez par analyses séparées plutôt qu’avec un seul long prompt :
- client sceptique ;
- responsable de la mise en œuvre ;
- relecteur financier ;
- spécialiste de la confidentialité ou de la sécurité ;
- et quelqu’un qui bénéficierait de ne rien faire.
Les rôles ne créent pas d’expertise, mais ils changent les questions qui émergent.
Étape 6 : décider sans le chat
Fermez le modèle. Écrivez la décision finale et expliquez pourquoi vous en assumez la responsabilité. Rouvrez l’analyse uniquement pour vérifier si vous avez ignoré un risque documenté.
Pour un ensemble de schémas de prompts adverses, continuez avec comment amener l’IA à vous contredire honnêtement. Pour une méthode générale de décision, consultez mieux décider avec l’IA.
Quand ne pas utiliser un partenaire de réflexion IA
N’utilisez pas un chatbot général comme autorité décisive pour :
- un choix de diagnostic ou de traitement ;
- des droits ou délais juridiques ;
- un conseil financier réglementé ;
- une situation de sécurité immédiate ;
- une décision sur la vie privée d’une autre personne sans son consentement ;
- ou toute décision où un professionnel qualifié doit inspecter les preuves directement.
L’IA peut vous aider à préparer des questions, organiser des documents ou comparer des informations issues de sources vérifiées. Elle ne remplace pas l’expert responsable ni le décideur humain.
La limite honnête
Aucun prompt ne garantit un jugement indépendant.
Vous pouvez réduire les indices de préférence, générer des contre-arguments, séparer preuves et inférences, et consigner les responsabilités. Vous ne pouvez pas placer un modèle de langage hors de toutes les hypothèses issues de son entraînement, de votre prompt et de la conversation.
Utilisez le modèle pour élargir l’examen, pas pour certifier la réponse.
