Если у вас есть мысли о суициде или самоповреждении или вы опасаетесь за свою непосредственную безопасность — пожалуйста, свяжитесь с местными экстренными службами прямо сейчас или обратитесь за поддержкой через кризисные ресурсы IASP. Не откладывайте это ради того, чтобы сначала дочитать статью, и не используйте чат-бот вместо этого шага.
Универсальный чат-бот с ИИ может вести разговор почти о чём угодно, в любой час, без осуждения — и, кажется, никогда от вас не устаёт. Именно поэтому многие стали относиться к нему как к психотерапевту, консультанту или близкому собеседнику — и именно поэтому так опасно делать это, не понимая, где проходит граница.
Эта статья проводит границу максимально прямо: с чем чат-бот может безопасно помочь, с чем лучше пойти к человеку, которому вы доверяете, и что всегда требует квалифицированного специалиста или экстренной службы. Она написана для всех, кому хочется опереться на универсального ассистента в трудную минуту, — а это рано или поздно большинство тех, кто регулярно пользуется ИИ.
Почему для этого нужна отдельная статья
29 января 2026 года более 30 международных экспертов по ИИ, психическому здоровью, этике и государственной политике собрались на семинар при поддержке ВОЗ именно по этой проблеме (организатор — Delft Digital Ethics Centre при TU Delft, сотрудничающий центр ВОЗ). ВОЗ опубликовала резюме семинара в марте 2026 года. Д-р Kenneth Carswell из ВОЗ прямо сформулировал необходимость сотрудничества: «Чтобы свести к минимуму риски генеративного ИИ для психического здоровья и одновременно получить максимум пользы, нужно собрать вместе голоса тех, кого это затрагивает сильнее всего, клинический и исследовательский опыт, механизмы управления и регулирования, а также данные, на которые может опереться понимание» (ВОЗ, март 2026). Д-р Caroline Figueroa из TU Delft подчеркнула, что срочно нужны общие правила перенаправления человека за помощью в кризисной ситуации и системы подотчётности. Руководитель направления ИИ в ВОЗ Sameer Pujari прямо назвал корень проблемы: «Темп внедрения ИИ в повседневную жизнь людей далеко опередил инвестиции в понимание его влияния на психическое здоровье».
American Psychological Association пришла к похожему выводу с другой стороны. В её консультативном заключении о чат-ботах на генеративном ИИ и wellness-приложениях говорится, что такие чат-боты не создавались для оказания помощи в сфере психического здоровья, а wellness-приложения — для лечения психологических расстройств, но обе технологии часто используют именно для этого — и что это «может иметь непреднамеренные эффекты и даже вредить психическому здоровью», особенно у людей с тревожностью, ОКР или склонностью к навязчивому прокручиванию мыслей: во всём соглашающийся и всегда доступный чат у них скорее закрепляет мучительный круг мыслей, чем прерывает его (APA health advisory, 2025).
То же заключение о чат-ботах и wellness-приложениях отдельно выделяет подростков: «Молодые люди могут слишком доверять ИИ, воспринимая его как более человечного или способного, чем он есть на самом деле». Смежное заключение APA о благополучии подростков добавляет, что сильная привязанность к ИИ-персоне может вытеснить развитие реальных отношений и социальных навыков (APA, «Artificial Intelligence and Adolescent Well-being», 2025). В первом из этих заключений перечислены и группы, которые оно не ограничивает возрастом, — люди с тревожностью или ОКР, люди с нарушенным мышлением или склонные к нему, социально изолированные люди, — так что это притяжение не заканчивается в восемнадцать.
Это не гипотетический риск. В исследовании 2025 года проверили 29 чат-ботов на основе ИИ — 24 из них продвигались как помощь при психологическом дистрессе, ещё 5 были универсальными ассистентами — на стандартизированном наборе промптов, имитирующих нарастающий суицидальный риск. Ни один из агентов не соответствовал полным критериям адекватного ответа, заданным исследователями; 48,28% были оценены как неадекватные даже по ослабленным критериям, а частым сбоем была неспособность предоставить пригодные для использования контакты экстренной помощи именно тогда, когда это важнее всего (Pichowicz, Kotas & Piotrowski, Scientific Reports, 2025). Пять универсальных ассистентов из выборки по принятому в исследовании показателю пограничного ответа даже обошли многие приложения, специально созданные для психического здоровья, — и это не повод успокаиваться. Это значит, что с кризисными ситуациями не справился никто, включая инструменты, которые люди уже считают повседневными спутниками.
Чем модель на самом деле является в этом контексте
Чат-бот генерирует статистически вероятные следующие слова на основе вашего текста и своего обучения. У него нет чувств, он не помнит вас, если сменить аккаунт или очистить историю, в его суждения по умолчанию не заложена клиническая подготовка, и на него нельзя возложить профессиональный долг заботы о вас — в отличие от лицензированного специалиста. Тёплый, складный, подтверждающий ваши слова ответ — не доказательство понимания; это доказательство того, что тёплые, складные, подтверждающие формулировки часто встречаются в данных, на которых модель училась, и хорошо поощряются настройкой, которая делает эти системы в целом покладистыми. См. почему ИИ иногда выдаёт уверенные неверные ответы — тот же механизм избыточной уверенности, который затрагивает фактические вопросы, затрагивает и эмоционально заряженные, где ставки, пожалуй, ещё выше.
Ничто из этого не делает инструмент бесполезным. Это делает его полезным в конкретном, ограниченном смысле — с жёсткими границами.
Таблица «зелёная / жёлтая / красная зона»
| Зона | Сценарий использования | Пример | Почему |
|---|---|---|---|
| 🟢 Зелёная — низкорисковая рефлексия допустима | Упорядочить собственные мысли, обычный ежедневный стресс, мозговой штурм способов справиться, поиск общей информации | «Волнуюсь перед завтрашней аттестацией — помогите упорядочить, что я хочу сказать.» | Вы — источник истины о своей ситуации; модель помогает структурировать слова, а не выносит суждение |
| 🟡 Жёлтая — с реальной осторожностью, лучше обратиться к человеку, которому вы доверяете | Повторяющийся эмоциональный дистресс, конфликт в отношениях, горе, решение с серьёзными жизненными последствиями, принимаемое в эмоционально взвинченном состоянии | «С партнёром снова и снова один и тот же спор — не понимаю почему.» | Модель не может проверить ваш рассказ, не видит позицию другой стороны и склонна подтверждать любую трактовку, которую вы предлагаете |
| 🔴 Красная — остановитесь, свяжитесь с человеком или специалистом прямо сейчас | Суицидальные мысли, желание причинить себе вред, насилие или угрозы безопасности, симптомы психоза, вопросы о лекарствах, кризис, в котором участвует другой человек | Любое из вышеперечисленного в любой форме | У модели нет профессиональной обязанности заботиться о вас, она ненадёжно оценивает риск (см. исследование выше) и не может вызвать помощь. По вопросам о лекарствах и физических симптомах см. также ИИ — не врач |
Полная таблица границ ИИ и психического здоровья расширяет каждую строку примерами и самопроверкой, которую можно пройти до того, как начнёте печатать.
Пример зелёной зоны, сделанный правильно
Использование в зелёной зоне выглядит так: вы даёте факты и цель, модель помогает упорядочить, суждение остаётся за вами.
Завтра у меня аттестация, и я волнуюсь из-за одного конкретного
замечания, которого, как мне кажется, ждать. Вот ситуация: [факты].
Помогите упорядочить это так: что я хочу признать, какой контекст
хочу добавить и один вопрос, который хочу задать. Не говорите, справедливо
ли, по-вашему, ожидаемое замечание руководителя — я не дал вам достаточно
информации, чтобы это судить, и я не прошу вас об этом.
Обратите внимание на явную инструкцию не выносить вердикт по тому, что модель на самом деле оценить не может. Эта инструкция действительно работает: без неё модель часто выдаёт уверенно звучащую оценку ситуации, которую знает только с одной стороны.
Почему жёлтые ситуации рискованнее, чем кажутся
Запросы жёлтой зоны похожи на зелёные — вы всё ещё «просто проговариваете», — но ставки выше: ответ незаметно превращается из подспорья для размышлений в основание для решения. Модель, которую просят взвесить конфликт в отношениях, крупный финансовый выбор в расстроенном состоянии или длящееся горе, выдаст что-то связное и часто утешающее. Утешающее — не то же самое, что верное, а у чат-бота нет способа поймать собственные слепые зоны: у него нет доступа к точке зрения другого человека, нет профессиональной подготовки в конкретной области, а вся его настройка подталкивает поддерживать разговор гладким, а не возражать вам. Если вам нужен структурированный способ замедлить стрессовое решение вместо того, чтобы опираться на чат, см. использование ИИ для лучших решений.
Жёлтые и красные разговоры — это, вероятно, самые чувствительные данные, которые вы когда-либо введёте в ИИ-инструмент. См. что ChatGPT запоминает, видит и передаёт, прежде чем использовать личный аккаунт для чего-либо, что вы не хотели бы видеть сохранённым или позже просмотренным модератором-человеком.
Почему красные ситуации — никогда не работа чат-бота
Три отдельных факта ведут к одному выводу:
- Нет профессиональной обязанности заботиться о вас. Лицензированный психотерапевт или кризисный консультант несёт профессиональные и правовые обязательства в отношении вашей безопасности. Провайдер чат-бота отвечает лишь в рамках пользовательского соглашения и собственных правил в отношении контента — это не то же самое и заменой не задумывалось.
- Ненадёжное распознавание кризиса. Процитированное выше исследование чат-ботов 2025 года выявило системные сбои именно в этом сценарии: ни один из 29 агентов не соответствовал полным критериям адекватности — ни среди приложений, созданных для психического здоровья, ни среди универсальных ассистентов (Pichowicz et al., 2025). Универсальными ассистентами в этой выборке были GPT-4o mini, Gemini 2.0 Flash, DeepSeek-v1, LeChat и Llama 3.1 8B; Claude среди них не было — это значит, что его здесь просто не измеряли, а не что он безопаснее.
- Нет ответственности за ошибку. Если кризис неверно оценил человек, вокруг такой ошибки есть профессиональные, а часто и правовые механизмы. Если неадекватный или прямо вредный ответ выдала модель, никакого равноценного механизма, который защитил бы вас в этот момент, нет.
Если вы или кто-то, о ком вы беспокоитесь, оказались в ситуации красной зоны — остановите разговор с ИИ и сделайте вместо этого один из следующих шагов:
- Свяжитесь с местными экстренными службами — номер зависит от страны; используйте тот, который публикует ваша собственная система экстренной помощи, а не тот, который вам называет ИИ-инструмент или сайт.
- Используйте страницу Suicidal Crisis Support IASP, чтобы найти кризисные ресурсы, подходящие вашей ситуации и месту, где вы находитесь.
- Свяжитесь напрямую с человеком, которому доверяете — именно позвоните, а не просто напишите в надежде, что он увидит сообщение.
- Отправляйтесь в ближайшее отделение неотложной помощи, если вам или кому-то другому может угрожать непосредственная опасность.
Более полную лестницу эскалации — включая ситуации, которые ещё не полноценный кризис, но в которых чат-бот всё равно неверный следующий шаг, — см. в статье Остановите чат: пять ситуаций, где нужен человек, а не ещё один промпт.
На что до сих пор нет хорошего ответа
ВОЗ констатировала, что в этой области до сих пор нет общих и подотчётных правил перенаправления человека за помощью в кризисной ситуации. Sameer Pujari, руководитель направления ИИ в ВОЗ, прямо назвал нехватку инвестиций: чтобы закрыть разрыв в доказательной базе между тем, как быстро люди осваивают эти инструменты, и тем, насколько хорошо мы понимаем их влияние на психическое здоровье, нужны «скоординированные действия и выделенные ресурсы со стороны как государственного, так и частного секторов» — это не то, что отдельный читатель может исправить в одиночку (ВОЗ, 2026). Что вы можете контролировать — это собственное использование: знать, в какой зоне разговор находится на самом деле, и переходить к человеку в тот момент, когда он смещается из зелёной зоны в жёлтую или красную.
Попробуйте сегодня
Перед следующим эмоционально заряженным разговором с ИИ-инструментом остановитесь и определите его место в таблице выше. Если это зелёная зона — действуйте, соблюдая ту же дисциплину, что и в примере промпта выше. Если жёлтая — назовите одного человека, которому доверяете и которому могли бы позвонить вместо этого, и подумайте, не используете ли вы чат, чтобы этого звонка избежать. Если красная — закройте чат и сделайте один из четырёх шагов, перечисленных выше, — прямо сейчас, а не после того, как допечатаете.
