Por qué la IA ofrece respuestas incorrectas con seguridad: guía básica sobre las alucinaciones — vídeos complementarios

IBM Technology

Martin Keen clasifica las alucinaciones en cuatro categorías con nombre propio —contradicciones entre oraciones, contradicciones con el prompt, errores factuales y contenido sin sentido— y explica cada una en una pizarra iluminada. El artículo aporta las causas; este vídeo, el vocabulario para identificar el tipo de error en casos reales y decidir cuánto confiar en una respuesta concreta.

Qué aprenderás: Podrás nombrar los cuatro tipos de alucinación y reconocer cuál tienes delante cuando un chatbot se equivoca.

Qué ver o saber antes: Ninguno; no exige conocimientos previos.

Computerphile

Una conversación extensa y serena con Rob Miles, investigador en seguridad de la IA, sobre por qué un modelo entrenado para predecir texto plausible inventará hechos en ocasiones por la propia naturaleza de su diseño. Se grabó a principios de 2023, pero el mecanismo subyacente no ha cambiado y su planteamiento sigue siendo la forma más clara de interiorizar que "es un motor de fluidez, no un motor de verdad".

Qué aprenderás: Podrás explicar por qué un modelo entrenado para predecir texto plausible inventa hechos a veces, por convincente que parezca su respuesta.

Qué ver o saber antes: Ninguno, aunque ayuda haber visto antes una explicación breve sobre las alucinaciones, como la elección principal.