Если у вас или у кого-то рядом возможна неотложная медицинская ситуация — используйте критерии, которые публикует ваша местная служба экстренной помощи, или обратитесь в ближайшее отделение неотложной помощи. Не описывайте ситуацию сначала чат-боту и не ждите его ответа, прежде чем вызвать помощь. Если беспокойство связано с кризисом психического здоровья, а не с физическим заболеванием, см. ИИ — не терапия и обратитесь в местные службы экстренной помощи или кризисные ресурсы IASP.
Универсальный ИИ-чат-бот ответит почти на любой вопрос о симптомах, лекарствах или результатах анализов — мгновенно, спокойным, хорошо организованным тоном. Именно из-за этой беглости его и хочется принять за врача — и именно поэтому за пределами довольно узкого круга задач это становится опасно. У модели нет стетоскопа, лаборатории, доступа к вашей карте и лицензии, которую можно отозвать при ошибке.
Эта статья проводит эту границу максимально ясно: в чём чат-бот может безопасно помочь вам с подготовкой, в чём вместо него нужен фармацевт или ваш лечащий врач и что всегда требует экстренной помощи. Она написана для того обычного момента, когда это реально происходит: вы вводите симптом в окно чата в 23:00, потому что клиника закрыта, а тревога не ждёт.
Почему здесь нужна своя граница
Вопросы о здоровье — одна из тем с высокими ставками, которые люди приносят в универсальные чат-боты, и данные о том, насколько хорошо это заканчивается, не обнадёживают. Исследование 2026 года, проведённое Oxford Internet Institute и Nuffield Department of Primary Care Health Sciences Оксфордского университета, — крупнейшее на сегодня исследование того, как люди пользуются большими языковыми моделями ради медицинских советов, — показало, что те, кто разбирал написанные врачами медицинские сценарии с помощью чат-бота, определяли вероятную проблему и правильный следующий шаг не точнее, чем те, кто пользовался привычными источниками вроде обычного поиска или собственного здравого смысла; при этом участники часто не могли понять, каким частям неровного по качеству ответа чат-бота можно доверять (Oxford Internet Institute, февраль 2026; исследование Nature Medicine). Модели, хорошо показывающие себя на стандартизированных медицинских экзаменах, всё равно давали сбои, когда по другую сторону разговора был реальный человек, работающий с неполным описанием сценария.
В отдельном исследовании 2026 года, опубликованном в npj Digital Medicine, врачи провели red-teaming четырёх широко используемых чат-ботов на 222 медицинских вопросах, составленных из поисковых запросов о здоровье и материалов, написанных врачами (авторы отмечают, что у них не было доступа к реальным сообщениям пациентов, отправленным чат-ботам). От 21,6% до 43,2% ответов были оценены как проблемные в зависимости от модели, и от 5% до 13% — как откровенно небезопасные: ответы, следование которым могло бы привести к вреду (Draelos, Afreen, Blasko et al., 2026). Исследование оценивает отдельные ответы, а не продукты целиком; его практический вывод в том, что нужна дальнейшая работа, прежде чем эти инструменты станут клинически безопасными настолько, чтобы полагаться на них без лицензированного специалиста, который проверяет ответы в ситуациях с высокими ставками.
Руководство ВОЗ по этике и управлению для крупных мультимодальных моделей называет диагностику, клиническую помощь и самостоятельное обращение пациента среди обсуждаемых сфер применения и фиксирует риски ложных, неточных, предвзятых или неполных утверждений (WHO, январь 2024). Это руководство адресовано правительствам, разработчикам и системам здравоохранения — оно не задумывалось как правило самодиагностики для потребителей, — но задокументированные типы сбоев напрямую применимы и к человеку, который вводит список симптомов в чат-приложение и воспринимает ответ как проверенный.
Чем модель на самом деле является в этом контексте
Чат-бот генерирует статистически вероятные следующие слова на основе вашего текста и обучающих данных. Он никогда не осматривал пациента, не измерял пульс, не видел, как сыпь выглядит вживую, и не может назначить анализ. Он не знает вашей полной медицинской истории, пока вы сами всё не введёте, — и даже тогда не может ничего из этого проверить, соотнести с другими вашими заболеваниями и лекарствами или заметить то, о чём вы не подумали упомянуть. О механизме, стоящем за этим, см. почему ИИ иногда выдаёт уверенные неверные ответы: та же проблема избыточной уверенности, что проявляется в обычных фактических вопросах, проявляется и в медицинских ответах — только ставки здесь гораздо выше.
Всё это не делает инструмент бесполезным в вопросах здоровья. Это делает его полезным в конкретном, ограниченном смысле — с жёсткой границей, которую вам придётся провести самостоятельно, потому что сама модель редко откажется отвечать.
Таблица зелёная / жёлтая / красная зона
| Зона | Сценарий использования | Пример | Почему |
|---|---|---|---|
| Зелёная — безопасно использовать | Составление списка вопросов перед приёмом, объяснение медицинского термина простым языком, подготовка фактической сводки ваших собственных записей, которую потом просмотрит врач | «Превратите мои черновые заметки за последние три недели в короткий список, который я смогу зачитать врачу.» | Факты даёте вы, и все клинические суждения остаются за вами; модель лишь переструктурирует ваши собственные слова |
| Жёлтая — с реальной осторожностью, проверяйте у специалиста | Общая информация о заболевании или классе лекарств, название которого вам уже известно, понимание того, что измеряет распространённый анализ | «Что вообще измеряет этот лабораторный показатель?» (не «нормален ли мой результат») | Общая информация может быть точной и при этом неприменимой к вашему конкретному случаю, дозе или сочетанию заболеваний |
| Красная — остановитесь и обратитесь к врачу, фармацевту или в экстренную службу прямо сейчас | Диагностика симптома, сравнение вариантов лечения, решение начать, прекратить или изменить лекарство или дозу, оценка срочности, любой экстренный симптом | Любое из вышеперечисленного в любой форме | Модель вас не осматривала, у неё нет ни лицензии, ни ответственности, и (по приведённым выше исследованиям) она заметно часто ошибается именно на таких вопросах |
Полная таблица границ ИИ в медицине дополняет каждую строку новыми примерами и готовыми формулировками, которые можно использовать в тот момент, когда разговор сползает из зелёной зоны в красную.
Пример зелёной зоны — как надо
Использование в зелёной зоне выглядит так: факты даёте вы, модель их только упорядочивает, и все суждения остаются за вами.
Вот мои черновые заметки за последние три недели: [вставьте заметки,
включая даты]. Соберите их в короткую фактическую хронологию, которую
я смогу зачитать врачу меньше чем за две минуты: что произошло, когда
и что я хочу спросить. Не добавляйте интерпретацию, вероятную причину
или уровень срочности — только упорядочьте то, что здесь есть, моими
же словами.
Обратите внимание на явную инструкцию не интерпретировать. Без неё большинство моделей сами предложат догадку о том, что происходит, — сформулированную достаточно уверенно, чтобы её было легко принять за профессиональное мнение.
Почему жёлтые вопросы рискованнее, чем кажутся
Запросы жёлтой зоны ощущаются как обычный поиск информации — именно поэтому из них так легко незаметно выйти за границы. Спросить, как в целом действует класс лекарств или что в целом измеряет тот или иной вид анализа, — разумное ознакомительное чтение. Риск появляется в момент, когда вопрос незаметно становится личным: «нормален ли мой результат», «стоит ли мне из-за этого беспокоиться», «означает ли это, что у меня X». Модель не знает ни ваших исходных показателей, ни других заболеваний, ни референсного диапазона вашей лаборатории — и часто всё равно ответит на персональную версию вопроса: эти системы настроены быть полезными, а отказ в такую настройку не вписывается. Если нужен структурированный способ донести вопрос о здоровье до нужного специалиста, вместо того чтобы решать его в чате, см. подготовка к медицинскому приёму за 20 минут.
Вопросы о здоровье — один из самых чувствительных видов текста, которые можно ввести в универсальный ИИ-аккаунт. См. что ChatGPT запоминает, видит и передаёт, прежде чем вставлять симптомы, лабораторные значения или названия лекарств в личную историю чатов, которую вы не хотели бы видеть сохранённой бессрочно или просмотренной позднее модератором-человеком.
Почему красные ситуации — никогда не работа чат-бота
Три факта ведут к одному выводу:
- Нет осмотра, лицензии, ответственности. Врач, неверно оценивший случай, отвечает перед лицензирующим органом и правовой системой и связан профессиональным долгом заботы о пациенте. Провайдер чат-бота отвечает лишь в рамках собственных условий использования — это не то же самое и заменой не является.
- Измеренная, значимая доля ошибок именно на таких вопросах. Red-teaming-исследование 2026 года нашло небезопасные ответы в 5–13% случаев у четырёх крупных чат-ботов (Draelos, Afreen, Blasko et al., 2026). Тестировали как раз повседневные инструменты — в тех версиях, которые были публично доступны в период сбора ответов с сентября по декабрь 2024 года: Claude 3.5 Sonnet, Gemini 1.5 Flash, GPT-4o и Llama-3. Авторы отмечают, что доля небезопасных ответов с тех пор, вероятно, изменилась, — а это не то же самое, что улучшилась: работающие сегодня версии заново не измеряли.
- Нет способа проверить то, что вы сказали, или заметить то, что вы опустили. Врач может задать уточняющий вопрос, посмотреть на вас или назначить анализ. У чат-бота есть только те слова, которые вы набрали, и он не может отличить полный рассказ от неполного.
Если вопрос в красной зоне, остановите чат и сделайте одно из следующего:
- Обратитесь в местную службу экстренной помощи при любой неотложной ситуации — номер зависит от страны; используйте тот, который публикует ваша система экстренной помощи.
- Позвоните фармацевту с любым вопросом о конкретном лекарстве, дозе или взаимодействии — фармацевт обучен и лицензирован отвечать на вопросы о лекарствах; насколько далеко он может зайти в вопросах дозы или изменения назначения, зависит от страны, поэтому уточните, что он вправе советовать в вашей юрисдикции.
- Свяжитесь с лечащим врачом или его дежурной линией в нерабочие часы по всему, что может подождать несколько часов, но всё равно требует профессионального суждения.
- Обратитесь в ближайшее отделение неотложной помощи, если вы или кто-то другой можете находиться в непосредственной опасности.
Более полная лестница эскалации — для ситуаций, которые не дотягивают до настоящей неотложности, но всё же требуют человека, — в статье Остановите чат: пять ситуаций, где нужен человек, а не ещё один промпт. Если проблема красной зоны — эмоциональный кризис, суицидальные мысли или длящееся психическое неблагополучие, а не физический симптом, переключитесь на смежную границу из ИИ — не терапия — не пытайтесь разрешить этот класс рисков внутри чата о медицинской информации.
Частые ошибки
- Спрашивать «что это может быть» вместо «помоги мне это описать». Первое приглашает догадку, выданную за ответ; второе удерживает модель в рамках того, что она реально умеет.
- Принимать спокойный, подробный тон за доказательство точности. Беглость и правильность в этих системах никак не связаны, и вопросы здоровья — ровно та область, где этот разрыв обходится дороже всего.
- Решать с помощью чат-бота, насколько что-то срочно. Оценка срочности — клинический навык, который опирается на подготовку и часто на осмотр пациента; как показывают приведённые выше исследования, надёжно делать это система предсказания текста не может.
- Спрашивать об изменении лекарств в чате вместо звонка фармацевту. Фармацевт видит вашу реальную историю назначений и взаимодействия препаратов; чат-бот — нет.
- Вставлять полные медицинские записи в личный аккаунт, не проверив сначала, что провайдер делает с этими данными.
Попробуйте сегодня
Перед следующим чатом о здоровье найдите своему вопросу место в таблице выше. Если он в зелёной зоне — используйте пример промпта и оставляйте каждое суждение за собой. Если в жёлтой — относитесь к ответу как к ознакомительному чтению, а не к личному вердикту, и задайте настоящий вопрос фармацевту или врачу. Если в красной — закройте чат прямо сейчас и используйте один из четырёх контактов выше: правильный инструмент для того, что будет дальше, — лицензированный человек, а не языковая модель.
