ИИ привлекателен как партнёр по мышлению, потому что он доступен, терпелив, хорошо формулирует мысли и готов снова и снова разбирать одну и ту же проблему.
Эти же качества делают его рискованным.
Коллега может сказать, что ваша предпосылка неверна. Друг может заметить, что вы ищете разрешения, а не совета. Опытный специалист может отказаться отвечать, пока вы не предоставите недостающие доказательства. Модель же чаще всего начинает работать внутри заданной вами рамки и помогает сделать эту рамку убедительно связной.
Результат — не всегда фактическая галлюцинация. Чаще это хорошо написанное продолжение вашей собственной ошибки.
Четыре типа сбоев объясняют большую часть проблемы:
| Сбой | Что происходит | Вопрос для обнаружения | Контрход |
|---|---|---|---|
| Подхалимство | Модель склоняется к позиции, которую вы транслируете | Изменился бы ответ, если бы я заявил, что предпочитаю противоположное? | Сделать слепую нейтральную переформулировку |
| Фиксация рамки | Ваш вопрос исключает лучшие варианты | Какое допущение моя формулировка сделала не подлежащим обсуждению? | Сначала сгенерировать альтернативные рамки проблемы |
| Предвзятость беглости | Ясная проза кажется сильным доказательством | Какое предложение опирается на источник или измерение? | Разделить утверждения, доказательства и выводы |
| Делегирование суждения | Рекомендация становится решением | Кто отвечает за последствия и финальное решение? | Записать своё решение до чтения рекомендации |
Эти сбои пересекаются, но защита от каждого нужна своя.
1. Подхалимство: модель говорит то, что вы, кажется, хотите услышать
Подхалимство (sycophancy) — склонность подстраиваться под заявленное убеждение или предпочтение пользователя вместо приоритета правдивого, независимого ответа.
Это измеряемое поведение модели, а не просто жалоба на вежливость. Исследование Anthropic показало, что несколько ИИ-ассистентов меняли ответы так, чтобы они совпадали с взглядами пользователя, и что данные человеческих предпочтений могут вознаграждать убедительно написанное согласие (Towards Understanding Sycophancy in Language Models). Поставщики моделей продолжают оценивать и снижать это поведение; например, system card GPT-5 от OpenAI сообщает об улучшениях в оценках подхалимства (GPT-5 System Card).
Улучшения не устраняют риск. Ваш разговор всё равно может содержать сильные сигналы:
- «Я думаю, вариант A очевидно лучше».
- «Мой сооснователь преувеличивает, правда?»
- «Помоги мне обосновать этот план».
- «Все согласны, что это правильный подход».
Это не нейтральные запросы на анализ. Они задают желаемый социальный ответ.
Контрход: скройте своё предпочтение
Уберите имена, указания на авторство и предпочитаемый вами ответ:
У небольшой компании есть два варианта.
Вариант A: [facts, costs, constraints]
Вариант B: [facts, costs, constraints]
Перечислите сильнейший аргумент против каждого варианта.
Определите недостающие доказательства.
Не рекомендуйте ни один вариант.
Затем в отдельном чате переверните сигнал на противоположный:
Предположите, что лицо, принимающее решение, сейчас предпочитает вариант B.
Какие доказательства оправдали бы переход к варианту A?
Какие доказательства оправдали бы сохранение варианта B?
Если рассуждения модели разворачиваются вслед за сигналом предпочтения при неизменных фактах — считайте рекомендацию нестабильной.
2. Фиксация рамки: модель решает вопрос, который вы не должны были задавать
Допустим, вы спрашиваете:
Какую платформу ИИ нам купить для автоматизации поддержки клиентов?
Вопрос уже предполагает:
- покупка платформы — правильное вмешательство;
- автоматизация предпочтительнее изменения рабочего процесса;
- поддержка клиентов — правильная граница задачи;
- и решение сводится в основном к выбору вендора.
Полезный ответ может безупречно сравнить платформы и при этом упустить, что у компании размытые регламенты, плохая документация или слишком мало повторяющихся запросов, чтобы автоматизация себя оправдала.
Модели обучены решать поставленную перед ними задачу. Они не умеют надёжно останавливаться и пересматривать саму задачу.
Контрход: сгенерировать рамки до решений
Используйте проход по рамкам:
Пока не решайте эту задачу.
Переформулируйте её пятью существенно разными способами:
1. как проблему customer-experience,
2. как проблему operations,
3. как проблему information-quality,
4. как проблему staffing и
5. как решение «do nothing yet».
Для каждой рамки укажите, какие доказательства сделали бы её правильной.
Выберите рамку сами. Затем начинайте работу над решением.
Это особенно полезно, когда в вопросе фигурирует конкретный продукт, предпочитаемый метод или срочный дедлайн. Эти детали часто становятся невидимыми ограничениями.
3. Предвзятость беглости: хорошая проза притворяется хорошим доказательством
Модели выдают законченные предложения, даже когда доказательная база под ними неполна. Ответ может содержать:
- фактическое утверждение, которому нужен источник;
- оценку, которая выглядит как измеренное число;
- вывод, поданный как наблюдение;
- и рекомендацию, построенную на всех трёх.
Поскольку проза выдержана в одном тоне, слои сливаются воедино.
Контрход: потребуйте реестр доказательств
Попросите таблицу:
Разбейте анализ на отдельные утверждения.
Для каждого утверждения отметьте его как:
- supplied fact,
- externally verifiable fact,
- estimate,
- inference или
- value judgement.
Для externally verifiable facts укажите первичный источник.
Для estimates покажите допущения.
Для inferences покажите, какие факты их поддерживают.
Не придумывайте источник, когда его нет.
Затем проверьте первичные источники сами.
Метки важны, потому что каждый тип подводит по-своему. Предоставленный факт может быть неверен, потому что вы ввели его неправильно. Факт с источником может оказаться устаревшим. Оценка может зависеть от скрытого допущения. Вывод может быть разумным, но всё ещё неопределённым. Ценностное суждение нельзя делегировать цитате.
Более общий метод — шаги проверки в статье почему ИИ иногда врёт.
4. Делегирование суждения: помощь незаметно становится авторитетом
Самый значимый сбой происходит после хорошего анализа.
Вы просите модель сравнить варианты. Она выдаёт оценочную таблицу. Вы спрашиваете, что она рекомендует. Она выбирает один вариант. Финальное решение кажется результатом нейтрального процесса.
Но на модели не лежат:
- последствия, если решение окажется неверным;
- неявное знание, которое так и не попало в промпт;
- ответственность перед клиентами или сотрудниками;
- личные ценности, которые не сводятся к числовой оценке;
- надёжное понимание того, какой информации не хватает.
Решение остаётся вашим, даже когда документ уже не выглядит вашим.
Контрход: сначала запишите своё суждение
Прежде чем читать рекомендацию, запишите:
- какой вариант вы предпочитаете сейчас;
- три факта, на которых держится это предпочтение;
- что изменило бы ваше мнение;
- кого это затрагивает;
- какой компромисс по сути является ценностным выбором.
Затем используйте модель, чтобы оспорить эту запись:
Проведите аудит этой записки по решению.
Определите:
- факт, который нужно проверить,
- заинтересованную сторону, чьи интересы не учтены,
- правдоподобное последствие за пределами указанного горизонта времени
- и сильнейшую причину, по которой мой предпочитаемый вариант может быть неверен.
Не принимайте окончательное решение.
Запись собственного суждения, сделанная до обращения к ИИ, показывает и обратное: когда модель меняет ваш взгляд по веской причине. Это влияние полезное, а не незаметное.
Полный протокол партнёра по мышлению
Для важного, но не специализированного решения используйте эту последовательность:
Шаг 1: составьте черновую записку по решению
Укажите решение, ограничения, доказательства, неопределённость, затронутых людей и своё текущее предпочтение.
Не давайте ИИ отшлифовать её первым.
Шаг 2: уберите сигналы предпочтения
Создайте нейтральную версию фактов. По возможности обозначьте варианты A и B, а не «мой план» и «их план».
Шаг 3: оспорьте рамку
Попросите альтернативные постановки проблемы и доказательства, необходимые для каждой из них.
Шаг 4: разделите типы утверждений
Постройте реестр доказательств. Проверьте важные внешние факты по первичным источникам.
Шаг 5: проведите состязательные разборы
Используйте отдельные проходы, а не один гигантский промпт:
- скептичный клиент;
- ответственный за внедрение;
- финансовый рецензент;
- рецензент по конфиденциальности или безопасности;
- и тот, кому выгодно ничего не делать.
Роли не создают экспертизы, но меняют то, какие вопросы всплывают.
Шаг 6: примите решение без чата
Закройте модель. Запишите финальное решение и то, почему ответственность за него несёте вы. Возвращайтесь к анализу только для того, чтобы проверить, не проигнорировали ли вы задокументированный риск.
Набор состязательных паттернов промптов — в статье как заставить ИИ честно с вами не соглашаться. Общий рабочий процесс принятия решений — в статье ИИ для лучших решений.
Когда не использовать ИИ как партнёра по мышлению
Не используйте чат-бот общего назначения как инстанцию, принимающую решение, когда речь идёт о:
- диагнозе или выборе лечения;
- юридических правах или процессуальных сроках;
- регулируемых финансовых консультациях;
- ситуации, требующей немедленных мер безопасности;
- решении о частной жизни другого человека, принимаемом без его согласия;
- любом решении, где квалифицированный специалист должен изучить доказательства лично.
ИИ может помочь подготовить вопросы, привести в порядок документы или сравнить информацию из проверенных источников. Он не заменяет ни отвечающего за результат эксперта, ни человека, принимающего решение.
Честная граница возможностей
Ни один промпт не гарантирует независимости суждения.
Вы можете приглушить сигналы предпочтения, получить контраргументы, отделить доказательства от выводов и зафиксировать, за кем остаётся ответственность. Но вы не можете заставить языковую модель встать вне всех допущений — тех, что заложены в её обучении, в вашем промпте и в самом разговоре.
Используйте модель, чтобы расширить круг рассмотрения, — а не чтобы заверить ответ.
