Alguien comparte una imagen y pregunta: «¿Esto lo ha hecho una IA?». La reacción instintiva es buscar los indicios clásicos, como demasiados dedos, texto ilegible o piel de cera, o pasar la imagen por uno de los muchos «detectores de IA». Ambas reacciones son comprensibles, pero fallan de formas importantes: los indicios visibles disminuyen con cada nueva generación de modelos y la fiabilidad de los detectores no mejora por el mero hecho de que su interfaz muestre un resultado con seguridad.
Este artículo explica lo que sí sabemos: en qué patrones concretos siguen fallando las herramientas de imagen con IA y por qué ningún detector, ni humano ni automatizado, puede darte un veredicto garantizado sobre una imagen concreta.
Los patrones de fallo que aún se mantienen
Las categorías siguientes son heurísticas, no garantías medidas. Pueden justificar una comprobación más atenta de la fuente, pero las capacidades de las herramientas cambian y la ausencia de un indicio no dice nada concluyente sobre el origen:
Manos y detalles anatómicos. Las posiciones complejas de las manos, los dedos superpuestos y las anatomías poco habituales siguen produciendo errores visibles con más frecuencia que los rostros o las poses sencillas, aunque los modelos más avanzados han mejorado mucho.
Texto dentro de la imagen. Los carteles, las etiquetas y otros textos ofrecen resultados desiguales según la herramienta y la versión. Algunas imágenes parecen impecables; otras muestran pseudopalabras, letras incoherentes o texto nítido en una zona y borroso en otra. Que «parezca legible» es un indicio débil tanto a favor como en contra del origen sintético.
Recuentos y repeticiones exactas. Si pides a un modelo que represente un número concreto de objetos idénticos, es frecuente que se equivoque. Lo mismo puede ocurrir cuando el propio modelo describe cuántos objetos hay en una imagen.
Coherencia entre varias imágenes o fotogramas. Una imagen aislada puede parecer impecable, pero al generar dos veces el mismo personaje u objeto, o mantenerlo a lo largo de un vídeo, suelen aparecer pequeñas variaciones perceptibles.
Reflejos, sombras e iluminación físicamente coherente. Los generadores producen luz y sombra de aspecto plausible más a menudo que luz y sombra físicamente correctas.
Ninguno de estos indicios basta por sí solo para emitir un veredicto firme. Una generación hábil o afortunada puede evitarlos todos, y una fotografía auténtica puede contener una sombra extraña o una mano en una posición poco natural. Úsalos para decidir qué merece una segunda comprobación, no como prueba. Además, envejecen deprisa: contrástalos con las herramientas actuales y no trates esta lista como permanente.
Por qué los «detectores de IA» no pueden darte certeza
El informe del NIST sobre transparencia del contenido sintético analiza por separado la detección, las marcas de agua, la procedencia y el etiquetado, y señala lagunas de investigación y límites de aplicación. Su programa de evaluación de IA generativa y el reto sobre imágenes evalúan generadores y detectores en condiciones de prueba definidas. Ese es el marco correcto para interpretar un resultado: mide el rendimiento de un sistema con un conjunto de datos, una transformación y una fecha determinados; no certifica todas las imágenes de todos los generadores.
No uses la puntuación de un detector como factor decisivo en una decisión con consecuencias, por ejemplo una disputa laboral, un conflicto personal o una acusación pública. Un falso positivo puede presentar una foto auténtica como falsa; un falso negativo puede dar por buena una falsificación convincente. Si consultas un detector, considera su resultado un indicio débil junto con las demás comprobaciones de este artículo, nunca un veredicto.
Qué ayuda de verdad, en orden de utilidad
Información de procedencia, cuando exista. Una Content Credential basada en el estándar C2PA puede mostrar quién firmó un archivo y qué historial de creación o edición declaró. Es una prueba más sólida que la estimación de un detector, aunque depende de que la herramienta y la plataforma sean compatibles y de que la credencial no desaparezca durante el recorrido del archivo. Consulta los conceptos básicos de Content Credentials y las marcas de agua para saber qué demuestra y qué no demuestra la insignia.
Encontrar la fuente original. Para muchas imágenes, rastrear dónde apareció el archivo por primera vez, de quién y cuándo resulta más útil que inspeccionar solo los píxeles. Una búsqueda inversa de imagen o una búsqueda directa del suceso que se afirma puede sacar a la luz el contexto original, pero una búsqueda infructuosa no es prueba de que algo sea una fabricación.
Coherencia con los demás datos conocidos. ¿Aparece el supuesto suceso en alguna fuente independiente? ¿Coinciden el lugar, la ropa o la fecha y hora con lo que puedes verificar por otros medios? Esta comprobación es más lenta que pulsar el botón de un detector, pero mucho más fiable.
Los patrones de fallo de arriba, solo como señal de apoyo. Merecen una mirada, nunca un veredicto por sí solos.
Dónde se aplica esto más allá de una sola foto sospechosa
Por la misma razón, el artículo sobre procedencia y consentimiento de los medios sintéticos considera las Content Credentials útiles, pero insuficientes. También responde a una pregunta habitual del plan de primera respuesta ante un deepfake para adultos: no retrases una denuncia mientras intentas «demostrar» primero que algo es sintético. Si tú generas imágenes y necesitas una guía práctica sobre lo que hacen bien las herramientas actuales y dónde fallan, generación de imágenes con IA 101 aborda la selección de herramientas y el diseño de instrucciones.
Errores frecuentes
- Tratar la ausencia de indicios visibles como prueba de autenticidad. Que no aparezcan los errores clásicos solo significa que el modelo los evitó, no que la imagen sea auténtica.
- Tratar el porcentaje de un detector como un hecho sobre la imagen. Es un hecho sobre cómo ese detector puntuó esa imagen contra su propio entrenamiento, en esa fecha.
- Perder tiempo «demostrando» el origen sintético antes de actuar ante algo urgente. Si debes actuar ya, por ejemplo para denunciar contenido dañino, no dejes que la búsqueda de una puntuación retrase la respuesta. Por qué la IA a veces da respuestas incorrectas con seguridad aborda el mismo exceso de confianza en otro contexto; la lección se aplica de forma más amplia.
- Suponer que las herramientas futuras harán innecesario este proceso. Tanto la detección como la generación cambian. Consulta pruebas actuales evaluadas de forma independiente en vez de conservar para siempre una lista de indicios visuales.
Pruébalo esta semana
La próxima vez que una imagen te haga dudar, no la pases sin más por una aplicación y confíes en la cifra resultante. Busca primero la fuente original, examina los patrones anteriores como indicios secundarios y comprueba si existe una Content Credential cuando la plataforma sea compatible. Usa la lista de límites de las imágenes con IA para adquirir el hábito de comprobar lo adecuado en el orden correcto.
