Ataques contra LLM: inyección de prompts

13 minutosAvanzadoCreadorLiveOverflowSeguridad de la IA y privacidad de los datos

LiveOverflow. Presenta la inyección de prompts como un ataque de inyección clásico contra sistemas que mezclan instrucciones con datos no fiables, mediante un ejemplo de moderación de contenido en el que el atacante incrimina a una persona inocente. El cambio mental de «el modelo es el objetivo» a «la aplicación es el objetivo» coincide exactamente con el inicio del artículo.

Nota de AI Expert

Trátalo como una guía conceptual. No uses datos reales de la empresa hasta que estén claros los permisos, la conservación, el registro y los límites de revisión humana.

Qué aprenderás

Modelarás la inyección de prompts como una mezcla de datos no fiables y diseñarás límites para el uso de herramientas.

Qué ver o saber antes

La intuición general sobre seguridad web ayuda; no se supone conocimiento previo sobre seguridad de modelos de lenguaje de gran tamaño.

Última revisión: 18 may 2026

Ver siguiente

Continúa por el mismo itinerario de aprendizaje con los siguientes vídeos complementarios seleccionados.

Profundiza

Cursos externos seleccionados para profundizar en este tema.

AWS Skill Builder

AWS Security: Securing Generative AI on AWS

AWS Training and Certification

A cloud-vendor-specific complement to the Macquarie specialization: AWS's own Generative AI Security Scoping Matrix, OWASP Top 10 for LLMs, and MITRE ATLAS, walked through governance, legal, and compliance controls for five different AI deployment scopes — from consumer apps to self-trained models. Not GDPR-specific, but a genuinely practical advanced pick for teams whose AI workloads actually run on AWS and need concrete data-governance and compliance controls, not just theory.

Avanzado~2 hours · self-paced (9 modules)
Coursera · Macquarie University

Cyber Security: Data, Privacy and AI Security

Macquarie University Cyber Security Hub faculty

An advanced pick for professionals responsible for both GDPR compliance and AI security: a three-course specialization from Macquarie University's Cyber Security Hub that goes from GDPR/CCPA fundamentals and privacy-by-design, through privacy impact assessments, to a dedicated third course on securing AI systems against adversarial attacks and model leakage. It genuinely bridges the two rather than treating them as separate topics.

Avanzado~47 hours · self-paced (3-course specialization)
EU Digital Skills & Jobs Platform · CyberSuite

Adopción segura de la IA para pymes: ciberseguridad y Reglamento de IA de la UE

CyberSuite

Un curso poco habitual sobre el Reglamento de IA, escrito para las empresas a las que realmente afecta: pymes que adoptan IA, no laboratorios que la desarrollan. Alojado en la propia plataforma de capacidades de la Comisión Europea, combina la vertiente jurídica —funciones, obligaciones y clasificación de riesgos— con la de seguridad (inyección de prompts, fuga de datos y diligencia debida sobre proveedores), que la mayoría de los cursos de cumplimiento omiten. Para una pyme estonia que despliega IA, este es el punto de partida práctico.

Avanzado~15 horas · a tu ritmo

Ver todos los cursos para Seguridad de la IA y privacidad de los datos