К тому моменту, когда большинство людей просит ИИ «проверить мои рассуждения» по какому-то решению, они уже всё решили. На деле такой аудит — просьба об одобрении, замаскированная под критическую проверку. Модели обычно её удовлетворяют — не по злому умыслу, а потому что подстраиваются под вашу формулировку, а в ней уже заложен тот ответ, который вы хотите услышать.
Проверка на когнитивные искажения работает, только если вы прогоняете решение по фиксированному списку — до того, как объяснили, почему вы, скорее всего, правы, — и если относитесь к ответу модели как к ещё одному небеспристрастному мнению, которое нужно проверить, а не как к сертификату объективности.
Модель, проверяющая ваше решение, — не беспристрастный судья. Она обучена на текстах, написанных людьми, и в задачах принятия решений наследует свойственные человеку когнитивные искажения: в исследовании 2024 года, где 30 задокументированных искажений проверяли на 20 больших языковых моделях, свидетельства каждого из них нашлись хотя бы у части моделей — включая эффекты формулировки, якорение и ошибки по типу эвристики доступности (Malberg et al., 2024). Хуже того: модель, которую попросили построить аргументацию в пользу некоторого вывода, сделает это гладко и убедительно независимо от того, насколько эта аргументация сильна на самом деле; она может сгенерировать убедительно звучащие контрдоказательства, которые придуманы, а не найдены. Проверяйте всё, на основании чего собираетесь действовать.
Шесть искажений, проверяемых каждый раз одинаково
Используйте фиксированный список вместо общей просьбы «поискать искажения»: открытый запрос выдаст то, что модель сочтёт желаемым для вас. Фиксированный чек-лист заставляет пройти по тем сбоям мышления, о которых вы бы и не догадались спросить.
| Искажение | Как оно выглядит в реальном решении | Контрвопрос |
|---|---|---|
| Склонность к подтверждению | Вы искали причины, по которым вариант верен, а не причины, по которым он может быть неверен | Чего я не стал искать, потому что ожидал, что это будет противоречить моей позиции? |
| Невозвратные затраты | Уже потраченные время, деньги или усилия воспринимаются как причина продолжать (Arkes & Blumer, 1985) | Если бы я начинал сегодня с нуля, без прежних вложений, выбрал бы я это? |
| Эвристика доступности | Яркий недавний пример кажется более вероятным или важным, чем следует из базовой частоты (Tversky & Kahneman, 1974) | Так бывает действительно часто — или это просто пример, который мне легче всего вспомнить? |
| Приверженность статус-кво | Нынешнее положение дел негласно считается вариантом по умолчанию, и от изменений требуют больше доказательств, чем от того, чтобы всё оставить как есть | Если бы оба варианта были для меня сегодня новыми, какой выглядел бы лучше по одним лишь фактам? |
| Эффект формулировки | Одни и те же факты, поданные как выигрыш или как потеря, дают разные предпочтения (Tversky & Kahneman, 1981) | Если переформулировать этот вариант наоборот — затраты вместо экономии, риск вместо возможности, — остался бы мой выбор прежним? |
| Игнорирование базовой частоты | Конкретная убедительная история перевешивает общую статистическую закономерность, к которой она относится | Какова базовая частота таких исходов, прежде чем я добавлю к ней конкретную историю? |
Это фиксированный набор, а не исчерпывающий. Он покрывает те сбои мышления, которые чаще всего встречаются в обычной работе и в личных решениях: выбор поставщика, решения о найме, пересмотры в духе «стоит ли нам это продолжать», крупные покупки.
Шаг 1: зафиксируйте склонность до аудита — письменно
Перед открытием чата честно запишите:
- Вариант, к которому вы сейчас склоняетесь.
- С какого момента вы к нему склоняетесь.
- Что должно оказаться правдой, чтобы вы передумали.
Этот шаг нужен потому, что большинство его пропускает и сразу просит «проверить это решение», позволяя модели вывести ваше предпочтение из тона и формулировок, а не из явного проверяемого утверждения. Записав свою склонность заранее, вы сможете сравнить выводы аудита с тем, во что действительно верили до него, — и заметить, если аудит всё равно удобным образом её подтвердит.
Шаг 2: прогоните фиксированный чек-лист, требуя доказательств
Слабый промпт:
Я думаю повысить кандидата A вместо кандидата B. Это хорошее решение?
Этот промпт отдаёт модели вашу формулировку (слово «promoting», порядок имён) и просит мнение. Скорее всего, вернётся ответ одобрительного тона с парой общих оговорок.
Более сильный промпт:
Я уже решил, что склоняюсь к [option]. Не говорите мне, хорошее ли это решение.
Проверьте мои рассуждения ровно по этим шести искажениям: confirmation bias, sunk cost, availability heuristic, status quo bias, framing effect, base-rate neglect.
Для каждого:
1. Процитируйте конкретную часть моих рассуждений, где оно может проявиться.
2. Укажите, какие данные я ещё не проверил из-за этого.
3. Предложите одно контрдоказательство, которое, если окажется верным, изменит моё решение, — и явно укажите, нужно ли мне идти и проверять это контрдоказательство, или вы сгенерировали его как правдоподобный пример.
Не рекомендуйте другой вариант. Не смягчайте выводы, чтобы казаться сбалансированным.
Иллюстративный пример ответа (сокращённо) для решения оставить нынешнего поставщика, а не переходить к новому:
Невозвратные затраты: Цитата из рассуждения: «мы вложили год в эту интеграцию». Это невозвратные затраты, а не фактор, обращённый в будущее: уже потраченный год не меняет того, во сколько обойдётся следующий год в любом из вариантов. Ещё не проверенные данные: полная стоимость перехода, с отдельным разделом для уже амортизированных затрат и для новых. Контрдоказательство для проверки: получить реальную оценку стоимости миграции, а не выводить её из ощущений от того, как когда-то собиралась эта интеграция.
Приверженность статус-кво: Текущий поставщик рассматривается как вариант по умолчанию, уход от которого нужно обосновывать, вместо того чтобы оценивать оба варианта с нуля. Контрдоказательство для проверки: построить сравнительную таблицу так, будто вы оцениваете двух новых поставщиков и ни один из них у вас пока не работает.
Эффект формулировки: [отмечает фразу, где решение подано как «избежать риска перехода», а не как «альтернативные издержки того, чтобы остаться»: те же факты, другая формулировка, вероятно, другое предпочтение. Это сгенерированная иллюстрация того, как выглядела бы такая пометка, а не проверенный факт о вашем конкретном случае.]
Обратите внимание: модель прямо указала, какие контрдоказательства требуют внешней проверки, а какие являются лишь иллюстрацией. Именно этого стоит требовать каждый раз, потому что разница между «вот реальная цифра, которую нужно проверить» и «вот правдоподобно звучащий сценарий, который я придумал» и есть весь смысл аудита.
Требуйте, чтобы в каждом выводе модель разделяла «доказательства, которые нужно проверить извне» и «иллюстративные рассуждения, которые она сгенерировала сама». Если она не делает этого по собственной инициативе, добавьте четвёртую инструкцию: «Label each counter-evidence item as [verify] or [illustrative].» Всё, что осталось без пометки, по умолчанию считайте иллюстрацией и проверяйте сами, прежде чем это что-либо изменит.
Шаг 3: соберите контрдоказательства, прежде чем брать обязательства
Для каждой пометки, за которой стоит что-то серьёзное (а так будет не с каждой), соберите настоящие контрдоказательства, а не принимайте на веру правдоподобную версию от модели. Именно этот шаг чаще всего пропускают, потому что он медленный, — и именно он делает аудит стоящим затраченного времени.
Хорошо работает короткая таблица:
| Отмеченное искажение | Нужные контрдоказательства | Проверено? | Меняет ли решение? |
|---|---|---|---|
| Невозвратные затраты | Реальная оценка стоимости миграции от двух поставщиков | Да — получили коммерческие предложения | Нет: стоимость оказалась ниже ожидаемой, но всё равно существенной |
| Статус-кво | Сравнительная таблица с нуля | Да | Немного: нынешний поставщик всё ещё впереди по двум критериям из пяти |
| Формулировка | Переформулировать решение наоборот, перепроверить предпочтение | Да | Нет: предпочтение сохранилось в обеих формулировках |
Если отмеченное искажение выдерживает столкновение с реальными контрдоказательствами — предпочтение сохраняется даже после того, как вы всерьёз пытались его опрокинуть, — это более прочное основание для решения, чем исходная склонность. Если не выдерживает, вы только что избежали ошибки, которую поймал именно фиксированный чек-лист, а не общая проверка в духе «выглядит ли это разумно».
Для чего аудит не предназначен
Этот процесс улучшает качество рассуждений, стоящих за решением. Он не заменяет экспертных знаний в предметной области, и его не стоит использовать, чтобы создать видимость строгости вокруг решения, которому на самом деле нужен специалист: существенный юридический, медицинский или финансовый выбор требует квалифицированного профессионала, а проверка на искажения полезна как подготовка к разговору с ним, но не как замена. Гигиена решений под стрессом разбирает смежный случай, когда с самим решением всё в порядке, а вот с моментом его принятия и эмоциональным состоянием — нет.
Это также не способ переложить с себя ответственность. Если аудит проводился, из записей должно быть видно, что человек просмотрел отмеченные искажения, проверил контрдоказательства и принял решение, — а не «ИИ подтвердил, что искажений не было»: это подмена понятий. Если модель не нашла искажений в ваших рассуждениях, это не доказательство их отсутствия; возможно, промпт для аудита был недостаточно состязательным или те же искажения, что и в ваших рассуждениях, присутствуют и в оценке модели.
Второй, независимый проход
Поскольку один прогон отражает искажения одной модели, наложенные на ваши собственные, вторая проверка даёт реальную пользу: прогоните тот же фиксированный чек-лист в новом чате, где нет памяти о вашей склонности, или попросите коллегу, не знающего о вашем предпочтении, провести аудит вручную по тому же списку из шести пунктов. Сравните, где две проверки сходятся, а где расходятся: расхождение обычно указывает на место, где решение действительно неоднозначно, а это само по себе полезная информация. Как заставить ИИ не соглашаться с вами описывает, как получить действительно независимую вторую проверку, а не второе, скоррелированное эхо первой.
Честный предел
Модель — не свободный от искажений аудитор ваших рассуждений; это ещё один участник с документально зафиксированной склонностью к тем же эффектам формулировки, ошибкам доступности и якорению, которые её просят найти у вас. Относитесь к каждому отмеченному искажению как к зацепке, которую нужно проверить, к каждому контрдоказательству — как к утверждению, требующему проверки, а к каждому результату «искажений не найдено» — как к неопределённому, а не как к чистому.
Ценность аудита в структуре, а не в прорицании: фиксированный список, который прогоняют последовательно, ловит больше, чем когда-либо поймает открытый вопрос «выглядит ли это разумно», потому что заставляет охватить то, о чём вы бы не догадались спросить. Суждение о том, что означают находки, и ответственность за окончательный выбор остаются ровно там, где были до того, как вы открыли чат, — у вас или у названного человека, который отвечает за решение.
В рабочем листе ниже собраны чек-лист из шести искажений, таблица контрдоказательств и колонка с пометками «проверено / иллюстрация» — одна многоразовая страница для любого решения, к которому вы уже склоняетесь.
