Kaasnevad videod

AI turvaline ühendamine su e-kirjade, kalendri ja CRM-iga — kaasnevad videod

Hetkel, kui AI-tööriist saab sinu postkasti lugeda, muutub usaldamatu tekst täidetavaks. Artikkel käib läbi OAuth scope'id, sihtotstarbelised teenusekontod ja inimene-silmuses kontrollpunktid; need videod teevad aluseks oleva ründemudeli — prompt injection — tõsiselt võetavaks piisavalt konkreetseks.

Esmane valik

10:57

Mis on prompt injection rünnak?

IBM Technology

Jeff Crume'i näide "osta SUV 1 dollari eest" on selgeim 10-minutiline selgitus sellele, miks otsene ja kaudne prompt injection on erinevad probleemid ja miks filtreerimine kumbagi täielikult lahendada ei suuda. Sobib otseselt artikli argumendiga, et sul on vaja vähima privileegi scope'e, sihtotstarbelist agendi-kontot ja inimest silmuses mistahes pöördumatuks tegevuseks — mitte nutikamat süsteemi prompti.

Mida sellest videost kaasa võtta: Saad tehnilise mustri teemal "AI turvaline ühendamine su e-kirjade, kalendri ja CRM-iga" ning oskad hinnata riske, piire ja järgmist sammu.

AI Experti märkus: Käsitle seda turva- ja juhtimismaterjalina, mitte valmis juurutusplaanina. Enne pärisandmete kasutamist kontrolli õigusi, logimist, säilitamist ja inimülevaatust.

Ava video leht

Tasub samuti vaadata

25:11

OWASP-i Top 10 viisi LLM-ide ründamiseks: AI haavatavused avalikustatud

IBM Technology

Suumib prompt injectionilt välja laiemale OWASP-i Top 10-le LLM-idele — turvamata väljundi käsitlemine, tundliku info avalikustamine, liigne agentsus — mis on täpselt see vigade-režiimide kataloog, mida tahad meeles pidada enne, kui annad millelegi Gmaili või HubSpoti scope'e.

Mida sellest videost kaasa võtta: Saad tehnilise mustri teemal "AI turvaline ühendamine su e-kirjade, kalendri ja CRM-iga" ning oskad hinnata riske, piire ja järgmist sammu.

AI Experti märkus: Käsitle seda turva- ja juhtimismaterjalina, mitte valmis juurutusplaanina. Enne pärisandmete kasutamist kontrolli õigusi, logimist, säilitamist ja inimülevaatust.

Ava video leht