Defensa de LLM: inyección de prompts

17 minutosAvanzadoCreadorLiveOverflowSeguridad de la IA y privacidad de los datos

LiveOverflow. Recorre el verdadero método de defensa en profundidad: análisis de contaminación (*taint analysis*) de las salidas del LLM, restricción de la estructura esperada, aislamiento entre usuarios, estructuras *few-shot*, fine-tuning, temperatura 0 para obtener determinismo y redundancia en rutas críticas. Coincide casi elemento por elemento con el stack defensivo del artículo.

Nota de AI Expert

Trátalo como una guía conceptual. No uses datos reales de la empresa hasta que estén claros los permisos, la conservación, el registro y los límites de revisión humana.

Qué aprenderás

Revisarás defensas como el análisis de contaminación, la restricción de estructuras de salida, el aislamiento de usuarios, las configuraciones deterministas y las comprobaciones redundantes en rutas críticas.

Qué ver o saber antes

Mira primero el vídeo sobre el ataque: la guía de defensa presupone ese modelo de amenaza.

Última revisión: 18 may 2026

Ver siguiente

Continúa por el mismo itinerario de aprendizaje con los siguientes vídeos complementarios seleccionados.

Profundiza

Cursos externos seleccionados para profundizar en este tema.

AWS Skill Builder

AWS Security: Securing Generative AI on AWS

AWS Training and Certification

A cloud-vendor-specific complement to the Macquarie specialization: AWS's own Generative AI Security Scoping Matrix, OWASP Top 10 for LLMs, and MITRE ATLAS, walked through governance, legal, and compliance controls for five different AI deployment scopes — from consumer apps to self-trained models. Not GDPR-specific, but a genuinely practical advanced pick for teams whose AI workloads actually run on AWS and need concrete data-governance and compliance controls, not just theory.

Avanzado~2 hours · self-paced (9 modules)
Coursera · Macquarie University

Cyber Security: Data, Privacy and AI Security

Macquarie University Cyber Security Hub faculty

An advanced pick for professionals responsible for both GDPR compliance and AI security: a three-course specialization from Macquarie University's Cyber Security Hub that goes from GDPR/CCPA fundamentals and privacy-by-design, through privacy impact assessments, to a dedicated third course on securing AI systems against adversarial attacks and model leakage. It genuinely bridges the two rather than treating them as separate topics.

Avanzado~47 hours · self-paced (3-course specialization)
EU Digital Skills & Jobs Platform · CyberSuite

Adopción segura de la IA para pymes: ciberseguridad y Reglamento de IA de la UE

CyberSuite

Un curso poco habitual sobre el Reglamento de IA, escrito para las empresas a las que realmente afecta: pymes que adoptan IA, no laboratorios que la desarrollan. Alojado en la propia plataforma de capacidades de la Comisión Europea, combina la vertiente jurídica —funciones, obligaciones y clasificación de riesgos— con la de seguridad (inyección de prompts, fuga de datos y diligencia debida sobre proveedores), que la mayoría de los cursos de cumplimiento omiten. Para una pyme estonia que despliega IA, este es el punto de partida práctico.

Avanzado~15 horas · a tu ritmo

Ver todos los cursos para Seguridad de la IA y privacidad de los datos