Angreb på LLM – prompt injection

13 minutterAvanceretUdviklerLiveOverflowAI-sikkerhed og databeskyttelse

LiveOverflow. Rammesætter promptinjektion som et klassisk injection-angreb mod systemer, der blander instruktioner og utroværdige data — med et konkret content-moderation-eksempel, hvor en angriber sætter en uskyldig bruger i scene. Det mentale skift fra "modellen er målet" til "applikationen er målet" er præcis det greb, artiklen åbner med.

Bemærkning fra AI Expert

Behandl dette som konceptuel vejledning. Brug ikke rigtige virksomhedsdata, før tilladelser, opbevaring, logging og grænser for menneskelig gennemgang er klare.

Hvad du bør få ud af dette

Modellér promptinjektion som blanding af utroværdige data, og design grænser omkring tool use.

Forudsætninger

Generel web-sikkerhedsintuition hjælper; ingen forudgående LLM-sikkerhedsviden antages.

Senest gennemgået: 18. maj 2026

Se næste

Fortsæt ad den samme læringsvej med de næste kuraterede videoer.

Gå i dybden

Håndplukkede eksterne kurser, der går i dybden med dette emne.

AWS Skill Builder

AWS Security: Securing Generative AI on AWS

AWS Training and Certification

A cloud-vendor-specific complement to the Macquarie specialization: AWS's own Generative AI Security Scoping Matrix, OWASP Top 10 for LLMs, and MITRE ATLAS, walked through governance, legal, and compliance controls for five different AI deployment scopes — from consumer apps to self-trained models. Not GDPR-specific, but a genuinely practical advanced pick for teams whose AI workloads actually run on AWS and need concrete data-governance and compliance controls, not just theory.

Avanceret~2 hours · self-paced (9 modules)
Coursera · Macquarie University

Cyber Security: Data, Privacy and AI Security

Macquarie University Cyber Security Hub faculty

An advanced pick for professionals responsible for both GDPR compliance and AI security: a three-course specialization from Macquarie University's Cyber Security Hub that goes from GDPR/CCPA fundamentals and privacy-by-design, through privacy impact assessments, to a dedicated third course on securing AI systems against adversarial attacks and model leakage. It genuinely bridges the two rather than treating them as separate topics.

Avanceret~47 hours · self-paced (3-course specialization)
EU Digital Skills & Jobs Platform · CyberSuite

Sikker indførelse af AI i SMV'er: cybersikkerhed og EU's AI-forordning

CyberSuite

Det sjældne kursus om AI-forordningen, der er skrevet til de virksomheder, som forordningen faktisk omfatter: SMV'er, der indfører AI, ikke laboratorierne, der udvikler den. Kurset ligger på Europa-Kommissionens egen platform for digitale færdigheder og kombinerer den juridiske side — roller, forpligtelser og risikoklassificering — med den sikkerhedsmæssige side (prompt injection, datalækage og leverandør-due diligence), som de fleste compliancekurser springer over. For en estisk SMV, der tager AI i brug, er dette det praktiske udgangspunkt.

Avanceret~15 timer · i eget tempo

Se alle kurser om AI-sikkerhed og databeskyttelse