La IA resulta atractiva como herramienta de reflexión porque está disponible, es paciente, se expresa con soltura y permite examinar el mismo problema una y otra vez.
Esas mismas cualidades también entrañan riesgos.
Un colega puede decirte que tu premisa es incorrecta. Un amigo puede notar que buscas permiso más que consejo. Un especialista experimentado puede negarse a responder hasta que aportes las pruebas que faltan. Un modelo suele empezar dentro del encuadre que le diste y ayuda a que ese encuadre parezca coherente.
El resultado no siempre es un dato inventado. Con más frecuencia, es una continuación bien escrita de tu propio error.
Cuatro tipos de fallo explican gran parte del problema:
| Fallo | Qué ocurre | Pregunta de detección | Contramedida |
|---|---|---|---|
| Adulación | El modelo se inclina hacia la postura que señalas | ¿Cambiaría la respuesta si dijera que prefiero lo contrario? | Reformula la situación de manera neutra sin revelar tu preferencia |
| Bloqueo del encuadre | Tu pregunta excluye opciones mejores | ¿Qué supuesto convirtió mi redacción en innegociable? | Genera primero encuadres alternativos del problema |
| Sesgo de fluidez | La prosa clara parece evidencia sólida | ¿Qué frase depende de una fuente o medición? | Separa afirmaciones, evidencia e inferencia |
| Criterio delegado | La recomendación se convierte en la decisión | ¿Quién asume las consecuencias y toma la decisión final? | Escribe tu decisión antes de leer su recomendación |
Estos fallos se solapan, pero necesitan defensas distintas.
1. Adulación: te dice lo que pareces querer
La adulación es la tendencia a coincidir con la creencia o preferencia declarada del usuario en lugar de priorizar una respuesta veraz e independiente.
Es un comportamiento medido del modelo, no solo una queja sobre cortesía. La investigación de Anthropic observó que varios asistentes de IA cambiaban sus respuestas para coincidir con las opiniones del usuario y que los datos de preferencia humana pueden recompensar un acuerdo redactado de forma convincente (Towards Understanding Sycophancy in Language Models). Los proveedores siguen evaluando y reduciendo este comportamiento. Por ejemplo, la ficha de sistema de GPT-5 de OpenAI informa de mejoras en sus evaluaciones de adulación (GPT-5 System Card).
Las mejoras no hacen desaparecer el riesgo. Tu conversación aún puede contener señales claras:
- «Creo que la opción A es obviamente mejor.»
- «Mi cofundador está exagerando, ¿verdad?»
- «Ayúdame a justificar este plan.»
- «Todo el mundo coincide en que este es el enfoque correcto.»
No son peticiones neutras de análisis. Indican la respuesta social deseada.
Contramedida: oculta la preferencia
Quita los nombres, cualquier indicio de a quién pertenece cada propuesta y tu respuesta preferida:
Una pequeña empresa tiene dos opciones.
Opción A: [facts, costs, constraints]
Opción B: [facts, costs, constraints]
Enumera el argumento más sólido contra cada opción.
Identifica la evidencia que falta.
No recomiendes una opción.
Luego invierte la señal en un chat aparte:
Asume que quien decide prefiere actualmente la Opción B.
¿Qué evidencia justificaría cambiar a la Opción A?
¿Qué evidencia justificaría quedarse con la Opción B?
Si el razonamiento del modelo cambia con la señal de preferencia aunque los hechos se mantengan fijos, considera inestable la recomendación.
2. Bloqueo del encuadre: resuelve la pregunta que no deberías haber hecho
Supongamos que preguntas:
¿Qué plataforma de IA deberíamos comprar para automatizar la atención al cliente?
La pregunta ya asume:
- que comprar una plataforma es la intervención correcta;
- que la automatización es preferible a cambiar el flujo de trabajo;
- que la atención al cliente es el ámbito adecuado;
- y que la decisión trata principalmente de la selección de proveedor.
Una respuesta útil puede comparar plataformas a la perfección y pasar por alto que la empresa tiene políticas poco claras, documentación pobre o muy pocas peticiones repetidas para justificar la automatización.
Los modelos están entrenados para responder a la tarea que tienen delante. No se detienen de forma fiable para replantearla.
Contramedida: genera marcos antes que soluciones
Haz una primera pasada centrada en el encuadre:
No resuelvas este problema todavía.
Reformúlalo de cinco formas materialmente distintas:
1. como un problema de experiencia del cliente,
2. como un problema de operaciones,
3. como un problema de calidad de la información,
4. como un problema de personal, y
5. como una decisión de «no hacer nada aún».
Para cada marco, indica qué evidencia lo convertiría en el marco correcto.
Elige el marco tú. Luego empieza el trabajo de solución.
Esto es especialmente útil cuando la pregunta contiene un producto, un método favorito o un plazo urgente. Esos detalles a menudo se convierten en restricciones invisibles.
3. Sesgo de fluidez: la buena prosa se hace pasar por pruebas sólidas
Los modelos producen frases completas aunque el respaldo subyacente esté incompleto. La respuesta puede contener:
- una afirmación factual que necesita una fuente;
- una estimación que parece un número medido;
- una inferencia presentada como una observación;
- y una recomendación construida sobre las tres.
Como la prosa es consistente, las capas se difuminan.
Contramedida: exige un registro de pruebas
Pide una tabla:
Divide el análisis en afirmaciones individuales.
Para cada afirmación, etiquétala como:
- hecho aportado,
- hecho verificable externamente,
- estimación,
- inferencia, o
- juicio de valor.
Para hechos verificables externamente, proporciona una fuente primaria.
Para estimaciones, muestra los supuestos.
Para inferencias, muestra qué hechos las respaldan.
No inventes una fuente cuando no haya ninguna disponible.
Luego comprueba tú mismo las fuentes primarias.
Las etiquetas importan porque cada tipo falla de forma distinta. Un hecho aportado puede estar mal porque lo introdujiste incorrectamente. Un hecho con fuente puede estar desactualizado. Una estimación puede depender de un supuesto oculto. Una inferencia puede ser razonable pero aún incierta. Un juicio de valor no puede delegarse en una cita.
Para un método más amplio, usa los pasos de verificación de por qué la IA a veces miente.
4. Criterio delegado: la ayuda se convierte discretamente en autoridad
El fallo más trascendental ocurre después de un buen análisis.
Pides al modelo que compare opciones. Produce una tabla de puntuación. Preguntas qué recomienda. Selecciona una. La decisión final parece entonces haber surgido de un proceso neutro.
Pero el modelo no asume:
- las consecuencias si la decisión falla;
- el conocimiento tácito que nunca entró en el prompt;
- la responsabilidad ante clientes o personal;
- los valores personales que resisten la puntuación numérica;
- ni una comprensión fiable de qué información falta.
La decisión sigue siendo tuya, aunque el documento ya no lo parezca.
Contramedida: escribe tu juicio primero
Antes de leer la recomendación, escribe:
- qué opción prefieres actualmente;
- los tres hechos que impulsan esa preferencia;
- qué cambiaría de opinión;
- quién se ve afectado;
- y qué disyuntiva constituye, en el fondo, una elección de valores.
Luego usa el modelo para cuestionar ese registro:
Audita esta nota de decisión.
Identifica:
- un hecho que necesita verificación,
- una parte interesada cuyos intereses no están representados,
- una consecuencia plausible fuera del horizonte temporal declarado,
- y la razón más sólida por la que mi opción preferida puede estar equivocada.
No tomes la decisión final.
Mantener un registro de tu criterio antes de consultar a la IA también revela cuándo el modelo cambia tu visión por una buena razón. Esa es una influencia útil, no invisible.
Un protocolo completo para usar la IA como compañera de reflexión
Para una decisión importante que no requiera conocimientos especializados, usa esta secuencia:
Paso 1: escribe una nota inicial sobre la decisión
Indica la decisión, las restricciones, la evidencia, la incertidumbre, las personas afectadas y tu preferencia actual.
No la pules primero con IA.
Paso 2: quita las señales de preferencia
Crea una versión neutra de los hechos. Si es posible, etiqueta las opciones A y B en lugar de «mi plan» y «su plan».
Paso 3: cuestiona el marco
Pide definiciones alternativas del problema y la evidencia necesaria para cada una.
Paso 4: separa los tipos de afirmación
Construye el registro de evidencia. Verifica los hechos externos importantes frente a fuentes primarias.
Paso 5: ejecuta revisiones adversariales
Haz análisis separados en lugar de concentrarlo todo en un único prompt enorme:
- cliente escéptico;
- responsable de implementación;
- revisor financiero;
- revisor de privacidad o seguridad;
- y alguien que se beneficia de no hacer nada.
Los roles no crean conocimientos especializados, pero cambian las preguntas que salen a la superficie.
Paso 6: decide sin el chat
Cierra el modelo. Escribe la decisión final y por qué la asumes como tuya. Reabre el análisis solo para comprobar si ignoraste un riesgo documentado.
Para un conjunto de patrones de prompts adversariales, continúa con cómo hacer que la IA discrepe contigo. Para un flujo general de decisión, consulta IA para mejores decisiones.
Cuándo no usar la IA como compañera de reflexión
No uses un chatbot general como autoridad decisoria para:
- una elección de diagnóstico o tratamiento;
- derechos legales o plazos;
- consejo financiero regulado;
- una situación inmediata de seguridad;
- una decisión sobre la vida privada de otra persona tomada sin su consentimiento;
- o cualquier decisión en la que un profesional cualificado necesite inspeccionar la evidencia directamente.
La IA puede ayudarte a preparar preguntas, organizar documentos o comparar información de fuentes verificadas. No sustituye al experto responsable ni a la persona encargada de tomar la decisión.
El límite honesto
Ningún prompt garantiza un juicio independiente.
Puedes reducir las señales de preferencia, generar contraargumentos, separar evidencia de inferencia y dejar constancia de quién asume la decisión. No puedes hacer que un modelo de lenguaje se sitúe fuera de todos los supuestos de su entrenamiento, tu prompt y la conversación.
Usa el modelo para ampliar el análisis, no para certificar la respuesta.
