Tilhørende videoer

Promptinjektion og LLM-sikkerhed — ledsagende videoer

Artiklen behandler promptinjektion, som sikkerhedsfolk behandler SQL-injection — som en egenskab ved substratet, ikke en fejl, der kan patches — og gennemgår trusselsmodeller, begrænsning af blast radius og den defence-in-depth-stak, du faktisk har brug for. Disse to LiveOverflow-videoer er den klareste parrede forklaring af angrebs- og forsvarssiden fra nogen med en reel IT-sikkerhedsbaggrund, og de mapper næsten slag for slag til artiklen.

Primært valg

13:22

Angreb på LLM – prompt injection

LiveOverflow

Rammesætter promptinjektion som et klassisk injection-angreb mod systemer, der blander instruktioner og utroværdige data — med et konkret content-moderation-eksempel, hvor en angriber sætter en uskyldig bruger i scene. Det mentale skift fra "modellen er målet" til "applikationen er målet" er præcis det greb, artiklen åbner med.

Hvad du bør få ud af dette: Modellér promptinjektion som blanding af utroværdige data, og design grænser omkring tool use.

Forudsætninger: Generel web-sikkerhedsintuition hjælper; ingen forudgående LLM-sikkerhedsviden antages.

Bemærkning fra AI Expert: Behandl dette som konceptuel vejledning. Brug ikke rigtige virksomhedsdata, før tilladelser, opbevaring, logging og grænser for menneskelig gennemgang er klare.

Åbn videoside

Også værd at se

17:11

Forsvar af LLM – prompt injection

LiveOverflow

Gennemgår den faktiske defence-in-depth-playbook — taint analysis på LLM-output, begrænsning af forventede outputformer, brugerisolation, few-shot-scaffolds, finjustering, temperature 0 for determinisme, redundans for kritiske stier. Den matcher artiklens forsvarsstak-afsnit næsten punkt for punkt.

Hvad du bør få ud af dette: Gennemgå forsvar mod promptinjektion såsom taint analysis, begrænsninger af outputform, brugerisolation, deterministiske indstillinger og redundante tjek for kritiske stier.

Forudsætninger: Se angrebsside-videoen først — forsvarsplaybooken antager den trusselsmodel.

Bemærkning fra AI Expert: Behandl dette som konceptuel vejledning. Brug ikke rigtige virksomhedsdata, før tilladelser, opbevaring, logging og grænser for menneskelig gennemgang er klare.

Åbn videoside