Inyección de prompts y seguridad de los LLM — vídeos complementarios

LiveOverflow

Presenta la inyección de prompts como un ataque de inyección clásico contra sistemas que mezclan instrucciones con datos no fiables, mediante un ejemplo de moderación de contenido en el que el atacante incrimina a una persona inocente. El cambio mental de «el modelo es el objetivo» a «la aplicación es el objetivo» coincide exactamente con el inicio del artículo.

Qué aprenderás: Modelarás la inyección de prompts como una mezcla de datos no fiables y diseñarás límites para el uso de herramientas.

Qué ver o saber antes: La intuición general sobre seguridad web ayuda; no se supone conocimiento previo sobre seguridad de modelos de lenguaje de gran tamaño.

LiveOverflow

Recorre el verdadero método de defensa en profundidad: análisis de contaminación (*taint analysis*) de las salidas del LLM, restricción de la estructura esperada, aislamiento entre usuarios, estructuras *few-shot*, fine-tuning, temperatura 0 para obtener determinismo y redundancia en rutas críticas. Coincide casi elemento por elemento con el stack defensivo del artículo.

Qué aprenderás: Revisarás defensas como el análisis de contaminación, la restricción de estructuras de salida, el aislamiento de usuarios, las configuraciones deterministas y las comprobaciones redundantes en rutas críticas.

Qué ver o saber antes: Mira primero el vídeo sobre el ataque: la guía de defensa presupone ese modelo de amenaza.