Si vous avez des pensées suicidaires ou des envies de vous faire du mal, ou si vous craignez pour votre sécurité immédiate, contactez dès maintenant les services d’urgence locaux ou cherchez de l’aide dans les ressources de crise de l’IASP. N’attendez pas d’avoir terminé cet article et ne remplacez pas cette démarche par une conversation avec un chatbot.
Un chatbot d’IA généraliste peut répondre à presque n’importe quel sujet, à toute heure et sur un ton qui peut sembler exempt de jugement. Cette disponibilité peut inciter à traiter le système comme un thérapeute, un conseiller ou un confident, alors qu’il n’assure aucune prise en charge clinique assortie d’une responsabilité professionnelle.
Cet article trace la limite aussi clairement que possible : les tâches pour lesquelles un chatbot peut apporter une aide en toute sécurité, les situations qu’il vaut mieux confier à une personne de confiance et celles qui exigent toujours un professionnel qualifié ou un service d’urgence. Il s’adresse à toute personne tentée de s’appuyer sur un assistant généraliste dans un moment difficile, ce qui arrive un jour ou l’autre à la plupart des utilisateurs réguliers de l’IA.
Pourquoi cet article était nécessaire
Le 29 janvier 2026, plus de 30 spécialistes internationaux de l’IA, de la santé mentale, de l’éthique et des politiques publiques se sont réunis lors d’un atelier consacré à ce problème et soutenu par l’OMS. L’événement était organisé par le Delft Digital Ethics Centre de TU Delft, centre collaborateur de l’OMS. L’OMS en a publié le compte rendu en mars 2026. Le Dr Kenneth Carswell, de l’OMS, a résumé clairement le besoin de collaboration : « Réduire au minimum les risques que présente l’IA générative pour la santé mentale tout en maximisant ses bénéfices exige de réunir la parole des personnes les plus touchées, l’expertise clinique et scientifique, les cadres de gouvernance et de réglementation, ainsi que des données propres à éclairer notre compréhension » (OMS, mars 2026). La Dre Caroline Figueroa, de TU Delft, a souligné l’urgence d’un consensus sur les protocoles d’orientation en situation de crise et les systèmes de responsabilité. Sameer Pujari, responsable de l’IA à l’OMS, a exposé sans détour le problème de fond : « Le rythme d’adoption de l’IA dans la vie quotidienne a largement dépassé les investissements consacrés à la compréhension de ses effets sur la santé mentale. »
L’American Psychological Association est arrivée à une conclusion similaire sous un autre angle. Son avis de santé sur les chatbots d’IA générative et les applications de bien-être indique que les chatbots d’IA générative n’ont pas été créés pour dispenser des soins de santé mentale et que les applications de bien-être n’ont pas été conçues pour traiter les troubles psychologiques. Ces deux technologies sont pourtant fréquemment utilisées à ces fins, ce qui « peut avoir des effets involontaires et même nuire à la santé mentale ». Le risque concerne notamment les personnes souffrant d’anxiété ou de TOC, ou sujettes à la rumination : un chatbot complaisant et toujours disponible peut renforcer une boucle de détresse au lieu de l’interrompre (avis de santé de l’APA, 2025).
Le même avis sur les chatbots et le bien-être attire particulièrement l’attention sur les adolescents : « Les jeunes peuvent accorder une confiance excessive à l’IA et la considérer comme plus humaine ou plus compétente qu’elle ne l’est réellement. » Un autre avis de l’APA consacré au bien-être des adolescents ajoute qu’un fort attachement à un personnage d’IA peut entraver le développement de relations et de compétences sociales dans le monde réel (APA, « Artificial Intelligence and Adolescent Well-being », 2025). Le premier avis cite aussi des groupes sans leur fixer de limite d’âge : les personnes souffrant d’anxiété ou de TOC, celles qui présentent ou risquent de présenter des troubles de la pensée, et les personnes socialement isolées. L’attrait ne disparaît donc pas à dix-huit ans.
Ce risque n’est pas hypothétique. En 2025, une étude a testé 29 agents conversationnels basés sur l’IA, dont 24 présentés comme des outils d’aide en cas de détresse psychologique et 5 assistants généralistes. Les chercheurs ont utilisé un ensemble standardisé de prompts simulant un risque suicidaire croissant. Aucun agent n’a satisfait à l’ensemble de leurs critères définissant une réponse adéquate. Même selon des critères assouplis, 48,28 % ont été jugés inadéquats. Parmi les défaillances fréquentes figurait l’incapacité à fournir des coordonnées d’urgence utilisables au moment où elles étaient le plus nécessaires (Pichowicz, Kotas & Piotrowski, Scientific Reports, 2025). Sur la mesure des réponses marginalement adéquates utilisée par l’étude, les cinq assistants généralistes de l’échantillon ont obtenu de meilleurs résultats que nombre d’applications spécialisées dans la santé mentale. Cela n’a rien de rassurant : la gestion des crises a échoué dans toutes les catégories, y compris parmi les outils que certaines personnes traitent déjà comme des compagnons du quotidien.
Ce qu’est réellement un modèle, dans ce contexte
Un chatbot génère une réponse à partir des informations et des outils dont il dispose. Il n’éprouve aucun sentiment, et la conservation du contexte dépend du produit, du compte et des réglages de mémoire. Un chatbot généraliste n’est pas le clinicien habilité qui vous suit. Il n’a établi aucune relation thérapeutique, ne peut pas observer l’ensemble de la situation et ne peut pas assurer le suivi professionnel attendu dans un parcours de soins. Une réponse chaleureuse et bien formulée ne prouve ni qu’il vous comprend ni qu’il a évalué votre situation. Consultez pourquoi l’IA produit parfois des réponses erronées avec assurance pour comprendre le problème sous-jacent d’intégrité de l’information.
Rien de tout cela ne rend l’outil inutile. Cela lui confère une utilité précise, délimitée par des frontières strictes.
Le tableau vert / ambre / rouge
| Zone | Cas d’usage | Exemple | Pourquoi |
|---|---|---|---|
| 🟢 Vert — aide à la rédaction sans enjeu majeur | Organiser vos propres mots à propos d’une situation ordinaire ou préparer des questions à poser à quelqu’un | « Mon entretien d’évaluation de demain me rend nerveux. Aidez-moi à organiser ce que je veux dire. » | Le modèle met en forme les informations que vous lui avez fournies ; les risques liés à la confidentialité, aux omissions et au renforcement de votre point de vue subsistent |
| 🟡 Ambre — orientez-vous vers un soutien humain responsable | Détresse récurrente, deuil, conflit relationnel, décision importante prise sous le coup d’une émotion intense ou habitude d’utiliser le chat à la place des personnes | « Je me dispute toujours avec mon partenaire sur le même sujet et je ne sais pas pourquoi. » | Le modèle ne peut ni vérifier le récit, ni connaître le point de vue de l’autre personne, ni diagnostiquer la cause, ni assurer un suivi dont quelqu’un assume la responsabilité |
| 🔴 Rouge — faites immédiatement appel aux secours ou à un service de crise | Pensées ou projets de suicide ou d’automutilation, danger immédiat, menaces ou violences présentant un risque actuel pour la sécurité, désorientation grave, perte de contact avec la réalité ou risque de faire du mal à autrui | N’importe lequel de ces cas, sous quelque forme que ce soit | Un modèle ne peut pas évaluer ni gérer de manière fiable un risque immédiat, dépêcher des secours ou mettre une personne en sécurité |
Le tableau complet des limites entre IA et santé mentale développe chaque ligne avec d’autres exemples et une auto-évaluation à effectuer avant de commencer à écrire.
Un bon exemple d’usage en zone verte
En zone verte, vous fournissez les faits et l’objectif, le modèle vous aide à les organiser et vous conservez votre jugement.
J'ai un entretien d'évaluation demain et je suis anxieux à propos d'un
retour précis que j'attends. Voici la situation : [facts].
Aidez-moi à organiser cela en : ce que je veux reconnaître, quel
contexte je veux ajouter, et une question que je veux poser. Ne me
dites pas si le retour probable de mon manager est juste — je ne vous
ai pas donné assez d'informations pour en juger, et je ne vous le
demande pas.
Remarquez l’instruction explicite de ne pas rendre de verdict sur une situation que le modèle ne peut pas réellement évaluer. Cette consigne joue un rôle concret : sans elle, le modèle propose souvent avec assurance une analyse d’une situation dont il ne connaît qu’un seul point de vue.
Pourquoi les situations ambre sont plus risquées qu’elles n’en ont l’air
Les demandes en zone ambre ressemblent à celles de la zone verte : vous êtes toujours en train d’« en parler ». Mais la réponse peut discrètement peser sur votre décision au lieu de rester une simple aide à la rédaction. Invité à se prononcer sur un conflit relationnel, une décision financière importante prise sous le coup de l’émotion ou un deuil, un modèle peut produire un texte cohérent et réconfortant. Le réconfort ne prouve pas que la réponse est juste. Le système ne connaît pas le point de vue de l’autre personne et ne dispose d’aucun jugement professionnel dont il assumerait la responsabilité. Il peut aussi renforcer la manière dont le prompt présente la situation au lieu de la remettre en question. Si vous avez besoin d’une méthode structurée pour ralentir face à une décision stressante, consultez utiliser l’IA pour prendre de meilleures décisions, puis faites intervenir une personne adaptée.
Les conversations des zones ambre et rouge comptent aussi parmi les données les plus sensibles que vous pourriez confier à un outil d’IA. Consultez ce que ChatGPT mémorise, voit et partage avant d’utiliser un compte personnel pour un contenu que vous ne voudriez pas voir conservé ou examiné ultérieurement par un modérateur humain.
Pourquoi les situations rouges ne relèvent jamais d’un chatbot
Trois faits distincts pointent vers la même conclusion :
- Aucune relation thérapeutique ni équipe soignante responsable. Les cliniciens qualifiés et les services de crise travaillent dans le cadre d’obligations professionnelles, organisationnelles et propres à leur juridiction. Une interaction avec un chatbot généraliste ne remplace pas cette relation de soin.
- Détection des crises peu fiable. L’étude de 2025 sur les chatbots citée plus haut a mis en évidence des défaillances systémiques dans ce scénario précis : aucun des 29 agents, qu’il s’agisse d’applications spécialisées dans la santé mentale ou d’assistants généralistes, n’a satisfait à l’ensemble des critères d’adéquation (Pichowicz et al., 2025). Les assistants généralistes de l’échantillon étaient GPT-4o mini, Gemini 2.0 Flash, DeepSeek-v1, LeChat et Llama 3.1 8B. Claude n’en faisait pas partie : son absence signifie seulement que ses résultats n’ont pas été mesurés ici, pas qu’il serait plus sûr.
- Aucune intervention fiable dans le monde réel. Un modèle généraliste ne peut pas vous examiner, vérifier votre localisation, s’assurer qu’une orientation aboutit, ni assurer le suivi immédiat qu’une crise peut exiger.
Si vous ou une personne qui vous inquiète êtes dans une situation rouge, arrêtez la conversation avec l’IA et effectuez plutôt l’une des démarches suivantes :
- Contactez les services d’urgence locaux : le numéro varie selon les pays. Utilisez celui que publie votre propre système d’urgence, pas un numéro fourni par un outil d’IA ou par un site quelconque.
- Utilisez la page de soutien en crise suicidaire de l’IASP pour trouver des ressources de crise adaptées à votre situation et à votre lieu.
- Joignez directement une personne de confiance — appelez-la, ne vous contentez pas d’envoyer un message en espérant qu’elle le voie.
- Allez aux urgences les plus proches si vous ou quelqu’un d’autre pouvez être en danger immédiat.
Pour une échelle de recours plus complète, qui couvre aussi les situations ne constituant pas une crise aiguë mais dans lesquelles le chatbot reste un mauvais choix, consultez Arrêtez le chat : cinq situations qui demandent une personne, pas un autre prompt.
Ce qui n’a toujours pas de bonne réponse
L’OMS indique que le domaine ne dispose toujours pas d’un cadre partagé et responsable pour orienter les personnes en situation de crise. Sameer Pujari, responsable de l’IA à l’OMS, a décrit sans détour le manque d’investissements : pour combler l’écart entre la vitesse d’adoption de ces outils et notre compréhension de leurs effets sur la santé mentale, il faut « une action coordonnée et des ressources dédiées provenant des secteurs public et privé ». Un lecteur ne peut pas résoudre seul ce problème (OMS, 2026). Vous pouvez en revanche maîtriser votre propre usage : déterminer dans quelle zone se situe réellement une conversation et vous tourner vers une personne dès qu’elle passe du vert à l’ambre ou au rouge.
Essayez-le aujourd’hui
Avant votre prochaine conversation chargée d’émotion avec un outil d’IA, faites une pause et situez-la dans le tableau ci-dessus. Si elle relève de la zone verte, limitez-vous à la tâche de rédaction précise et protégez vos données personnelles. Si elle relève de la zone ambre, adressez-vous à une personne de confiance ou à un professionnel qualifié au lieu de vous appuyer sur le chat. Si elle relève de la zone rouge, arrêtez et faites immédiatement appel aux services d’urgence ou à un service de crise local.
Rien de ce qui précède ne constitue une thérapie, un triage, un diagnostic ni une évaluation personnalisée d’une situation de crise. En cas de détresse ou de risque, adressez-vous à un professionnel qualifié ou à un service de crise local plutôt que de poursuivre la conversation.
