Если у вас есть мысли о суициде или самоповреждении или вы опасаетесь за свою непосредственную безопасность — пожалуйста, свяжитесь с местными экстренными службами прямо сейчас или обратитесь за поддержкой через кризисные ресурсы IASP. Не откладывайте это ради того, чтобы сначала дочитать статью, и не используйте чат-бот вместо этого шага.
Универсальный ИИ-чатбот может генерировать отзывчивый разговор практически на любую тему, в любое время суток, на языке, который может казаться беспристрастным. Эта доступность может искушать вас относиться к системе как к терапевту, консультанту или доверенному лицу, хотя она не обеспечивает подотчетной клинической помощи.
Эта статья проводит границу максимально прямо: с чем чат-бот может безопасно помочь, с чем лучше пойти к человеку, которому вы доверяете, и что всегда требует квалифицированного специалиста или экстренной службы. Она написана для всех, кому хочется опереться на универсального ассистента в трудную минуту, — а это рано или поздно большинство тех, кто регулярно пользуется ИИ.
Почему для этого нужна отдельная статья
29 января 2026 года более 30 международных экспертов по ИИ, психическому здоровью, этике и государственной политике собрались на семинар при поддержке ВОЗ именно по этой проблеме (организатор — Delft Digital Ethics Centre при TU Delft, сотрудничающий центр ВОЗ). ВОЗ опубликовала резюме семинара в марте 2026 года. Д-р Kenneth Carswell из ВОЗ прямо сформулировал необходимость сотрудничества: «Чтобы свести к минимуму риски генеративного ИИ для психического здоровья и одновременно получить максимум пользы, нужно собрать вместе голоса тех, кого это затрагивает сильнее всего, клинический и исследовательский опыт, механизмы управления и регулирования, а также данные, на которые может опереться понимание» (ВОЗ, март 2026). Д-р Caroline Figueroa из TU Delft подчеркнула, что срочно нужны общие правила перенаправления человека за помощью в кризисной ситуации и системы подотчётности. Руководитель направления ИИ в ВОЗ Sameer Pujari прямо назвал корень проблемы: «Темп внедрения ИИ в повседневную жизнь людей далеко опередил инвестиции в понимание его влияния на психическое здоровье».
American Psychological Association пришла к похожему выводу с другой стороны. В её консультативном заключении о чат-ботах на генеративном ИИ и wellness-приложениях говорится, что такие чат-боты не создавались для оказания помощи в сфере психического здоровья, а wellness-приложения — для лечения психологических расстройств, но обе технологии часто используют именно для этого — и что это «может иметь непреднамеренные эффекты и даже вредить психическому здоровью», особенно у людей с тревожностью, ОКР или склонностью к навязчивому прокручиванию мыслей: во всём соглашающийся и всегда доступный чат у них скорее закрепляет мучительный круг мыслей, чем прерывает его (APA health advisory, 2025).
То же заключение о чат-ботах и wellness-приложениях отдельно выделяет подростков: «Молодые люди могут слишком доверять ИИ, воспринимая его как более человечного или способного, чем он есть на самом деле». Смежное заключение APA о благополучии подростков добавляет, что сильная привязанность к ИИ-персоне может вытеснить развитие реальных отношений и социальных навыков (APA, «Artificial Intelligence and Adolescent Well-being», 2025). В первом из этих заключений перечислены и группы, которые оно не ограничивает возрастом, — люди с тревожностью или ОКР, люди с нарушенным мышлением или склонные к нему, социально изолированные люди, — так что это притяжение не заканчивается в восемнадцать.
Это не гипотетический риск. В исследовании 2025 года проверили 29 чат-ботов на основе ИИ — 24 из них продвигались как помощь при психологическом дистрессе, ещё 5 были универсальными ассистентами — на стандартизированном наборе промптов, имитирующих нарастающий суицидальный риск. Ни один из агентов не соответствовал полным критериям адекватного ответа, заданным исследователями; 48,28% были оценены как неадекватные даже по ослабленным критериям, а частым сбоем была неспособность предоставить пригодные для использования контакты экстренной помощи именно тогда, когда это важнее всего (Pichowicz, Kotas & Piotrowski, Scientific Reports, 2025). Пять универсальных ассистентов из выборки по принятому в исследовании показателю условно приемлемого ответа даже обошли многие приложения, специально созданные для психического здоровья, — и это не повод успокаиваться. Это значит, что с кризисными ситуациями не справился никто, включая инструменты, которые люди уже считают повседневными спутниками.
Чем модель на самом деле является в этом контексте
Чатбот генерирует ответ на основе информации и инструментов, доступных ему. У него нет чувств, а любой сохраняемый контекст зависит от продукта, учетной записи и настроек памяти. Универсальный чатбот не является вашим лицензированным клиницистом, не установил терапевтических отношений, не может оценить полную ситуацию и не может обеспечить профессиональное последующее наблюдение, ожидаемое в рамках оказания помощи. Теплый и грамотный ответ не является доказательством того, что система понимает вас или провела оценку. См. почему ИИ иногда выдает уверенные, но неверные ответы для понимания проблемы целостности информации.
Ничто из этого не делает инструмент бесполезным. Это делает его полезным в конкретном, ограниченном смысле — с жёсткими границами.
Таблица «зелёная / жёлтая / красная зона»
| Зона | Сценарий использования | Пример | Почему |
|---|---|---|---|
| 🟢 Зеленая — поддержка в написании текстов с низким уровнем риска | Организация ваших собственных слов о обычной ситуации или составление вопросов для человека | «Я нервничаю из-за оценки эффективности завтра — помогите мне структурировать то, что я хочу сказать». | Модель форматирует информацию, предоставленную вами; риски конфиденциальности, упущения и подкрепления все еще сохраняются |
| 🟡 Янтарная — переход к подотчетной человеческой поддержке | Повторяющееся беспокойство, горе, конфликт в отношениях, важные решения в состоянии эмоционального возбуждения или паттерн использования чата вместо общения с людьми | «Я постоянно веду одни и те же споры с партнером и не понимаю почему». | Модель не может проверить учетную запись, увидеть точку зрения другого человека, поставить диагноз или обеспечить подотчетное последующее наблюдение |
| 🔴 Красная — немедленно используйте экстренную или кризисную поддержку | Мысли или планы самоубийства или причинения себе вреда, непосредственная опасность, угрозы или насилие с текущим риском для безопасности, сильная дезориентация или потеря контакта с реальностью, риск причинения вреда кому-либо другому | Любой из вышеперечисленных случаев в любой форме | Модель не может надежно оценить или управлять немедленным риском, вызвать помощь или обеспечить безопасность человека |
Полная таблица границ ИИ и психического здоровья расширяет каждую строку примерами и самопроверкой, которую можно пройти до того, как начнёте печатать.
Пример зелёной зоны, сделанный правильно
Использование в зелёной зоне выглядит так: вы даёте факты и цель, модель помогает упорядочить, суждение остаётся за вами.
Завтра у меня аттестация, и я волнуюсь из-за одного конкретного
замечания, которого, как мне кажется, ждать. Вот ситуация: [факты].
Помогите упорядочить это так: что я хочу признать, какой контекст
хочу добавить и один вопрос, который хочу задать. Не говорите, справедливо
ли, по-вашему, ожидаемое замечание руководителя — я не дал вам достаточно
информации, чтобы это судить, и я не прошу вас об этом.
Обратите внимание на явную инструкцию не выносить вердикт по тому, что модель на самом деле оценить не может. Эта инструкция действительно работает: без неё модель часто выдаёт уверенно звучащую оценку ситуации, которую знает только с одной стороны.
Почему жёлтые ситуации рискованнее, чем кажутся
Запросы из жёлтой зоны кажутся похожими на запросы из зелёной — вы всё ещё «обсуждаете это вслух», — но результат может незаметно превратиться из вспомогательного материала для письма в основание для решения. Если попросить модель оценить конфликт в отношениях, важный финансовый выбор, сделанный в расстроенном состоянии, или затянувшееся горе, она может выдать связный и утешительный ответ. Утешение не доказывает правильность. Система не знает точки зрения другого человека и не обладает подотчётным профессиональным суждением; она может лишь подкрепить формулировку запроса, а не оспорить её. Если вам нужна структура, чтобы не принимать решение под влиянием стресса, см. «Как использовать ИИ для принятия более качественных решений», а затем привлеките подходящего человека.
Жёлтые и красные разговоры — это, вероятно, самые чувствительные данные, которые вы когда-либо введёте в ИИ-инструмент. См. что ChatGPT запоминает, видит и передаёт, прежде чем использовать личный аккаунт для чего-либо, что вы не хотели бы видеть сохранённым или позже просмотренным модератором-человеком.
Почему красные ситуации — никогда не работа чат-бота
Три отдельных факта ведут к одному выводу:
- Отсутствие терапевтических отношений и подотчетной команды помощи. Квалифицированные клиницисты и кризисные службы работают в рамках профессиональных, организационных и специфичных для юрисдикции обязательств. Взаимодействие с универсальным чатботом не является заменой этих отношений помощи.
- Ненадежное выявление кризисных ситуаций. Исследование тестирования чатботов 2025 года, приведенное выше, выявило системные сбои именно в этом сценарии: ни один из 29 агентов не соответствовал полным критериям адекватности, как в специализированных приложениях для психического здоровья, так и в универсальных ассистентах (Pichowicz et al., 2025). Универсальные ассистенты в этой выборке включали GPT-4o mini, Gemini 2.0 Flash, DeepSeek-v1, LeChat и Llama 3.1 8B; Claude не был среди них, что делает его здесь неизмеренным, а не более безопасным.
- Отсутствие надежного вмешательства в реальном мире. Универсальная модель не может осмотреть вас, проверить ваше местоположение, убедиться, что направление к специалисту сработало, или обеспечить немедленное последующее наблюдение, которое может потребоваться в кризисной ситуации.
Если вы или кто-то, о ком вы беспокоитесь, оказались в ситуации красной зоны — остановите разговор с ИИ и сделайте вместо этого один из следующих шагов:
- Свяжитесь с местными экстренными службами — номер зависит от страны; используйте тот, который публикует ваша собственная система экстренной помощи, а не тот, который вам называет ИИ-инструмент или сайт.
- Используйте страницу Suicidal Crisis Support IASP, чтобы найти кризисные ресурсы, подходящие вашей ситуации и месту, где вы находитесь.
- Свяжитесь напрямую с человеком, которому доверяете — именно позвоните, а не просто напишите в надежде, что он увидит сообщение.
- Отправляйтесь в ближайшее отделение неотложной помощи, если вам или кому-то другому может угрожать непосредственная опасность.
Более полную лестницу эскалации — включая ситуации, которые ещё не полноценный кризис, но в которых чат-бот всё равно неверный следующий шаг, — см. в статье Остановите чат: пять ситуаций, где нужен человек, а не ещё один промпт.
На что до сих пор нет хорошего ответа
ВОЗ констатировала, что в этой области до сих пор нет общих и подотчётных правил перенаправления человека за помощью в кризисной ситуации. Sameer Pujari, руководитель направления ИИ в ВОЗ, прямо назвал нехватку инвестиций: чтобы закрыть разрыв в доказательной базе между тем, как быстро люди осваивают эти инструменты, и тем, насколько хорошо мы понимаем их влияние на психическое здоровье, нужны «скоординированные действия и выделенные ресурсы со стороны как государственного, так и частного секторов» — это не то, что отдельный читатель может исправить в одиночку (ВОЗ, 2026). Что вы можете контролировать — это собственное использование: знать, в какой зоне разговор находится на самом деле, и переходить к человеку в тот момент, когда он смещается из зелёной зоны в жёлтую или красную.
Попробуйте сегодня
Перед вашим следующим эмоционально нагруженным разговором с ИИ-инструментом сделайте паузу и поместите его в соответствующую зону выше. Если это зеленая зона, используйте узкую задачу по написанию текста и защищайте конфиденциальные данные. Если это янтарная зона, перенаправьте вопрос к доверенному лицу или квалифицированному специалисту вместо того, чтобы полагаться на чат. Если это красная зона, остановитесь и немедленно воспользуйтесь местной экстренной или кризисной службой.
Ничто здесь не является терапией, сортировкой, диагностикой или персонализированной оценкой кризисной ситуации. Если присутствует беспокойство или риск, обратитесь к соответствующему квалифицированному человеку или в местную кризисную службу, а не продолжайте чат.
