Mis on prompt injection rünnak?

11 minutitEdasijõudnudAI-ohutus ja andmeprivaatsus

IBM Technology. Jeff Crume'i näide "osta SUV 1 dollari eest" on selgeim 10-minutiline selgitus sellele, miks otsene ja kaudne prompt injection on erinevad probleemid ja miks filtreerimine kumbagi täielikult lahendada ei suuda. Sobib otseselt artikli argumendiga, et sul on vaja vähima privileegi scope'e, sihtotstarbelist agendi-kontot ja inimest silmuses mistahes pöördumatuks tegevuseks — mitte nutikamat süsteemi prompti.

AI Experti märkus

Käsitle seda turva- ja juhtimismaterjalina, mitte valmis juurutusplaanina. Enne pärisandmete kasutamist kontrolli õigusi, logimist, säilitamist ja inimülevaatust.

Mida sellest videost kaasa võtta

Saad tehnilise mustri teemal "AI turvaline ühendamine su e-kirjade, kalendri ja CRM-iga" ning oskad hinnata riske, piire ja järgmist sammu.

Järgmisena vaata

Jätka sama õpiteekonda järgmiste hoolikalt valitud kaasvideotega.

5 taset teksti tükeldamiseks leidmise jaoks

Saad tehnilise mustri teemal "Chunking, reranking ja hübriidotsing" ning oskad hinnata riske, piire ja järgmist sammu.

Vaata järgmist

Model Context Protocol (MCP)

Saad tehnilise mustri teemal "MCP mitte-inseneridele" ning oskad hinnata riske, piire ja järgmist sammu.

Vaata järgmist

"Vibe coding'u" mõttevirus seletatud…

Saad tehnilise mustri teemal "AI-ga kodeerimine arendajaks olemata" ning oskad hinnata riske, piire ja järgmist sammu.

Vaata järgmist

Seotud videod

Parem RAG ja AI agendid Doclinguga

RAG-i õigused ja ligipääsukontroll: süvitsi õpetus

Kuidas ehitada usaldusväärseid AI agente: kontekst ja evalid

AI-inseneri juhis EL-i AI Actiga toime tulemiseks

Mine sügavamale

Hoolikalt valitud välised kursused, mis aitavad sellesse teemasse sügavamalt minna.

EIPA — European Institute of Public Administration

AI & EU Law: Definition and Developments

Kiire ja usaldusväärne sissejuhatus sellesse, mida EL-i tehisintellekti määrus tegelikult tähendab. EIPA koolitab Euroopa avalikku sektorit, seega on see hea esimene allikas riskiastmete, rollide ja vastutuse mõistmiseks.

Ekspert~45 minutitKontrollitud 25 päeva tagasi

Coursera · University of Michigan

Generative AI: Governance, Policy, and Emerging Regulation

Vähesed kursused annavad korraga ülevaate USA, EL-i ja G7 regulatiivsest maastikust. Sobib tootejuhtidele ja vastavusspetsialistidele, kes peavad tehisintellekti lahendusi viima mitmele turule ilma varjatud õigusriske pärimata.

Ekspert~3 tundiKontrollitud 25 päeva tagasi

Vaata kõiki kursusi teemal „AI-ohutus ja andmeprivaatsus”