Tilhørende videoer

Forbind AI sikkert med din e-mail, kalender og CRM — ledsagende videoer

Når et AI-værktøj får adgang til din indbakke, bliver tekst, du ikke har tillid til, en del af systemets input og kan påvirke dets handlinger. Artiklen gennemgår begrænsede OAuth-rettigheder, særskilte servicekonti og kontrolpunkter med menneskelig godkendelse. Videoerne gør den underliggende angrebstype, promptinjektion, konkret.

Primært valg

10:57

Hvad er et promptinjektionsangreb?

IBM Technology

Jeff Crumes eksempel med »køb en SUV for 1 dollar« forklarer på ti minutter forskellen mellem direkte og indirekte promptinjektion og begrænsningerne ved filtrering alene. Det understøtter artiklens anbefaling om færrest mulige rettigheder, en særskilt agentkonto og menneskelig godkendelse af irreversible handlinger frem for at bruge systemprompten som eneste værn.

Hvad du bør få ud af dette: Skeln mellem direkte og indirekte promptinjektion, og hvorfor filtrering alene ikke er nok.

Forudsætninger: Ingen. Videoen kan ses uden forberedelse.

Bemærkning fra AI Expert: Brug videoen som en begrebsmæssig introduktion. Anvend ikke rigtige virksomhedsdata, før rettigheder, opbevaring, logning og grænser for menneskelig kontrol er fastlagt.

Åbn videoside

Også værd at se

25:11

OWASP's Top 10 måder at angribe LLM'er på: AI-sårbarheder blotlagt

IBM Technology

Videoen udvider perspektivet fra promptinjektion til den daværende OWASP Top 10 for LLM-applikationer, herunder usikker håndtering af resultater, videregivelse af følsomme oplysninger og overdrevne beføjelser. Kategorierne er relevante, før et system får adgang til Gmail eller HubSpot, men navne og prioritering skal sammenholdes med den aktuelle OWASP-vejledning.

Hvad du bør få ud af dette: Brug OWASP's LLM-risikokategorier til at gennemgå værktøjsadgang, håndtering af resultater og eksponering af følsomme data.

Forudsætninger: Det primære valgs forklaring af promptinjektion er en fordel; sikkerhedsfaglig baggrund er ikke nødvendig.

Bemærkning fra AI Expert: Brug videoen som en begrebsmæssig introduktion. Anvend ikke rigtige virksomhedsdata, før rettigheder, opbevaring, logning og grænser for menneskelig kontrol er fastlagt.

Åbn videoside