Запрос к модели «проверить мою логику» после того, как вы уже озвучили предпочтительный вариант, может закрепить ответ в рамках вашей формулировки. Результат может повторять исходные допущения или генерировать правдоподобные контраргументы без извлечения реальных доказательств; это не является независимой психологической оценкой.
Фиксированный чек-лист, явное указание начального предпочтения и внешняя проверка делают упражнение более проверяемым по сравнению с открытым запросом на валидацию. Однако они не гарантируют, что аудит выявит когнитивные искажения или улучшит принятие решения.
Модель, проводящая аудит вашего решения, не является нейтральным судьёй. В препринте 2024 года, оценивавшем 30 задокументированных когнитивных искажений в 20 больших языковых моделях, было обнаружено наличие каждого из этих искажений как минимум в некоторых протестированных моделях, включая эффекты фрейминга и якорения (Malberg et al., 2024); это исследование предоставляет данные о поведении конкретных протестированных моделей и промптов, но не доказывает, что все модели ведут себя идентично. Модель также может генерировать правдоподобные контраргументы, которые никогда не были извлечены из базы знаний. Проверяйте любую информацию, на основе которой вы планируете действовать.
Шесть искажений, проверяемых каждый раз одинаково
Используйте фиксированный обучающий список вместо того, чтобы полагаться только на открытый запрос. Чек-лист делает требуемый охват явным; он не гарантирует корректность анализа и не покрывает все релевантные когнитивные процессы.
| Искажение | Как оно выглядит в реальном решении | Контрвопрос |
|---|---|---|
| Склонность к подтверждению | Вы искали причины, по которым вариант верен, а не причины, по которым он может быть неверен | Чего я не стал искать, потому что ожидал, что это будет противоречить моей позиции? |
| Невозвратные затраты | Уже потраченные время, деньги или усилия воспринимаются как причина продолжать (Arkes & Blumer, 1985) | Если бы я начинал сегодня с нуля, без прежних вложений, выбрал бы я это? |
| Эвристика доступности | Яркий недавний пример кажется более вероятным или важным, чем следует из базовой частоты (Tversky & Kahneman, 1974) | Так бывает действительно часто — или это просто пример, который мне легче всего вспомнить? |
| Приверженность статус-кво | Нынешнее положение дел негласно считается вариантом по умолчанию, и от изменений требуют больше доказательств, чем от того, чтобы всё оставить как есть | Если бы оба варианта были для меня сегодня новыми, какой выглядел бы лучше по одним лишь фактам? |
| Эффект формулировки | Одни и те же факты, поданные как выигрыш или как потеря, дают разные предпочтения (Tversky & Kahneman, 1981) | Если переформулировать этот вариант наоборот — затраты вместо экономии, риск вместо возможности, — остался бы мой выбор прежним? |
| Игнорирование базовой частоты | Конкретная убедительная история перевешивает общую статистическую закономерность, к которой она относится | Какова базовая частота таких исходов, прежде чем я добавлю к ней конкретную историю? |
Это обучающий набор, а не исчерпывающий или клинически валидированный диагностический инструмент. Он подходит только для структурированного осмысления обычных решений с низкими последствиями — не для того, чтобы маркировать человека как подверженного искажениям, оценивать его способность к принятию решений или психическое состояние.
Шаг 1: зафиксируйте склонность до аудита — письменно
Перед открытием чата честно запишите:
- Вариант, к которому вы сейчас склоняетесь.
- С какого момента вы к нему склоняетесь.
- Что должно оказаться правдой, чтобы вы передумали.
Этот шаг делает начальное предпочтение явным, вместо того чтобы оставлять модели возможность вывести его из тона и формулировки. Это создаёт запись, которую можно сравнить с результатами аудита, но сама по себе эта запись не предотвращает эффект якорения или подтверждение предвзятости.
Шаг 2: прогоните фиксированный чек-лист, требуя доказательств
Слабый промпт:
Я думаю повысить кандидата A вместо кандидата B. Это хорошее решение?
Этот промпт передаёт вашу формулировку (слово «продвижение», порядок имён) и запрашивает мнение. В зависимости от модели и контекста ответ может отражать эту формулировку, противостоять ей или добавлять общие оговорки; ни один из этих вариантов не является аудитом доказательств.
Более сильный промпт:
Я уже склоняюсь к [вариант]. Не говорите мне, хорошее ли это решение.
Проверьте мои рассуждения ровно по этим шести искажениям: склонность к подтверждению своей точки зрения, ошибка невозвратных затрат, эвристика доступности, искажение статус-кво, эффект фрейминга и игнорирование базовой частоты.
Для каждого:
1. Процитируйте конкретную часть моих рассуждений, где оно может проявиться.
2. Укажите, какие данные я ещё не проверил из-за этого.
3. Предложите одно контрдоказательство, которое, если окажется верным, изменит моё решение, — и явно укажите, нужно ли мне идти и проверять это контрдоказательство, или вы сгенерировали его как правдоподобный пример.
Не рекомендуйте другой вариант. Не смягчайте выводы, чтобы казаться сбалансированным.
Иллюстративный пример ответа (сокращённо) для решения оставить нынешнего поставщика, а не переходить к новому:
Ошибка невозвратных затрат: Приведённый аргумент: «мы вложили год в эту интеграцию». Уже понесённые затраты являются невозвратными, но созданная интеграция или функциональность могут всё ещё влиять на будущие затраты на переключение, обслуживание, переподготовку и упущенную выгоду. Доказательства, которые ещё не проверены: сравнение с учётом будущего, которое отделяет прошлые затраты от будущих денежных потоков, рисков и выгод при выборе между сохранением текущего решения и переходом на новое. Контраргументы для проверки: получите фактическую оценку затрат на миграцию и эксплуатацию, а не используйте уже затраченные усилия как решающий фактор.
Искажение статуса-кво: Текущий поставщик рассматривается как значение по умолчанию, требующее обоснования для ухода, вместо того чтобы обе опции оценивались с нуля. Контраргументы для проверки: составьте таблицу сравнения так, будто вы оцениваете двух новых поставщиков, ни один из которых не является действующим.
Эффект фрейминга: [отмечена строка, где решение было сформулировано как «избегание риска переключения» вместо «упущенной выгоды от сохранения текущего состояния» — одни и те же факты, разный фрейм, вероятно, разное предпочтение. Это сгенерированный пример того, как мог бы выглядеть флаг фрейминга, а не подтвержденный факт о вашем конкретном случае.]
Обратите внимание, что модель чётко указала, какие контраргументы требуют внешней проверки, а какие являются иллюстративным примером. Требуйте такого разделения, чтобы сгенерированные сценарии не принимались за извлечённые факты.
Требуйте, чтобы в каждом выводе модель разделяла «доказательства, которые нужно проверить извне» и «иллюстративные рассуждения, которые она сгенерировала сама». Если она не делает этого по собственной инициативе, добавьте четвёртую инструкцию: «Пометьте каждый контраргумент как [проверить] или [иллюстрация]». Всё, что осталось без пометки, по умолчанию считайте иллюстрацией и проверяйте сами, прежде чем это что-либо изменит.
Шаг 3: соберите контрдоказательства, прежде чем брать обязательства
Для каждого значимого флага когнитивного искажения собирайте соответствующие контраргументы, а не принимайте правдоподобную версию от модели. Внешняя проверка отличает этот рабочий процесс от чисто сгенерированной критики, но она не гарантирует полноты набора доказательств или их правильной интерпретации.
Хорошо работает короткая таблица:
| Отмеченное искажение | Нужные контрдоказательства | Проверено? | Меняет ли решение? |
|---|---|---|---|
| Невозвратные затраты | Реальная оценка стоимости миграции от двух поставщиков | Да — получили коммерческие предложения | Нет: стоимость оказалась ниже ожидаемой, но всё равно существенной |
| Статус-кво | Сравнительная таблица с нуля | Да | Немного: нынешний поставщик всё ещё впереди по двум критериям из пяти |
| Формулировка | Переформулировать решение наоборот, перепроверить предпочтение | Да | Нет: предпочтение сохранилось в обеих формулировках |
Если предпочтение сохраняется после проверки релевантных контраргументов, запись становится более явной по сравнению с исходным намерением, но не обязательно корректной или полной. Если оно меняется, запишите, какие именно доказательства повлияли на изменение; не приписывайте улучшение исключительно чек-листу без сравнения.
Для чего аудит не предназначен
Этот процесс предназначен для того, чтобы сделать допущения и недостающие доказательства более заметными; данная статья не утверждает, что он улучшает конкретное решение. Он не заменяет предметную экспертизу и не должен использоваться для создания видимости строгости в решении, требующем специалиста — существенные юридические, медицинские или финансовые вопросы требуют участия квалифицированного профессионала, а аудит когнитивных искажений служит лишь возможной подготовкой, а не заменой. Гигиена решений в условиях стресса охватывает смежный случай, когда время или эмоциональное состояние могут требовать иных границ.
Не используйте это упражнение как замену оценке психического здоровья, кризисной поддержке, мерам защиты или решениям, принимаемым под принуждением или в условиях абьюза. Если страх, мания, тяжёлая депрессия, суицидальные мысли, интоксикация или другое острое состояние могут нарушать способность к суждению, приостановите работу с ИИ и обратитесь к соответствующему лицензированному специалисту или в службу экстренной помощи. Аргумент от модели не является оценкой дееспособности.
Это также не способ переложить с себя ответственность. Если аудит проводился, из записей должно быть видно, что человек просмотрел отмеченные искажения, проверил контрдоказательства и принял решение, — а не «ИИ подтвердил, что искажений не было»: это подмена понятий. Если модель не нашла искажений в ваших рассуждениях, это не доказательство их отсутствия; возможно, промпт для аудита был недостаточно состязательным или те же искажения, что и в ваших рассуждениях, присутствуют и в оценке модели.
Второй, независимый проход
Поскольку один запуск модели отражает ошибки одной модели, наложенные на ваши собственные, сравнивайте результат с коллегой, который не видел вашего предпочтения, или с квалифицированным экспертом в предметной области, когда ставки требуют этого. Новый разговор с моделью может снизить эффект якорения в диалоге, но он не является независимым экспертом и может воспроизводить коррелированные ошибки. Исследуйте согласие и несогласие относительно доказательств; расхождение само по себе не означает, что решение является спорным. Как заставить ИИ не соглашаться с вами охватывает один из способов получения контраргументов, но не гарантирует независимость.
Честный предел
Модель — не свободный от искажений аудитор ваших рассуждений; это ещё один участник с документально зафиксированной склонностью к тем же эффектам формулировки, ошибкам доступности и якорению, которые её просят найти у вас. Относитесь к каждому отмеченному искажению как к зацепке, которую нужно проверить, к каждому контрдоказательству — как к утверждению, требующему проверки, а к каждому результату «искажений не найдено» — как к неопределённому, а не как к чистому.
Ценность аудита носит структурный, а не предсказательный характер: фиксированный список делает требуемый охват явным и воспроизводимым. То, выявляет ли он больше искажений, чем открытый обзор, — это вопрос оценки, а не допущения. Суждение о том, что означают результаты, и ответственность за окончательное решение остаются за указанным лицом или квалифицированным специалистом, принимающим решение.
В рабочем листе ниже собраны чек-лист из шести искажений, таблица контрдоказательств и колонка с пометками «проверено / иллюстрация» — одна многоразовая страница для любого решения, к которому вы уже склоняетесь.
