AI-turvalisus

Promptisüst ja LLM-turvalisus: ohumudelid ja kihiline kaitse

Promptisüst on püsiv LLM-turvalisuse riskiklass, mitte prompti kirjutamise viga. Tootmiskeskkonna juhend ohumudelite, andmepiiride, tööriistaõiguste, regressioonitestide, seire ja intsidentide käsitlemise kohta.

Ettevõtte teadmiste RAG: õigused, lekked ja allikapiirid

Ettevõtte teadmiste assistent on ohutu ainult siis, kui retrieval austab õigusi. Kuidas disainida RAG-i allikapiire, ACL-filtreid, dokumendiomanikke, logimist, aegunud allikate käsitlemist ja keeldumiskäitumist.

11 min lugemist

Turvaline dokumentide ettevalmistus RAG-i jaoks: PDF-id, OCR, metaandmed ja säilitus

RAG-i kvaliteet algab enne otsingut. Turvalise dokumendiettevalmistuse juhend PDF-ide, OCR-i, metaandmete, õiguste, allika värskuse, kustutamise, pahavara riski ja operatsioonilise omanikluse jaoks.

Veel selles teemas

7 min lugemist

Hermese veebikonksud: sündmusepõhised agendid ilma ühe kõikehõlmava promptita

Seadista Hermes Agenti veebikonksud lähtepakkujale sobiva autentimise, pordi 8644 tervisekontrollide ja väikeste nimeliste marsruutidega, et sündmustest saaksid selgelt piiritletud agenditööd koos sõnaselge edastussihtmärgiga.

NemoClaw DGX Sparkil: kasutuselevõtu ja turvalisuse kava

Kavanda ja hinda OpenClawi, Hermese või Deep Agents Code’i käitamist NVIDIA OpenShellis DGX Sparkil: praegune kasutuselevõtt, poliitikakihid, marsruuditud inferents ja nõutavad vastuvõtutõendid.

8 min lugemist

OpenClawi lubatud loendid, sidumine ja rühmavestluse mainimisreeglid

Kanalite lubatud loendid, otsesõnumite sidumine ja rühmade mainimisreeglid on OpenClawi tegelik turvapiir, sest tööriistad võivad pääseda käsureale, failidele ja brauserile. Praktiline kontrollnimekiri ligipääsu lukustamiseks.

9 min lugemist

OpenClawi isikliku värava seadistus: paigaldamine, esmane seadistus ja juhtpaneel

Mis on OpenClaw, kuidas ise majutatud mitmekanalilist väravat paigaldada ja esmaselt seadistada, kuidas avada Control UI pordil 18789 ning millised Node’i versioonid on toetatud, jätmata turvalist lähteseadistust vahele.

OpenClawi oskused, perioodilised kontrollid ja kinnitusetapid

Kuidas OpenClaw oskusi laadib, kuidas heartbeat-perioodid töötavad, kuidas piirata hosti käsukesta käivitamist ning hoida brauseri automatiseerimine range poliitika ja üle vaadatud töövoo kinnituse taga.

20 minutit

RAG-i õigused ja ligipääsukontroll: süvitsi õpetus

Paragon. Käib läbi tootmise RAG-i õiguste probleemi ning võrdleb tööriistakutseid, namespace’e, ACL-tabeleid ja relatsioonipõhiseid õigusi. See toetab artikli põhireeglit: otsing peab tagastama ainult need allikad, mida praegune kasutaja tohib näha.

69 minutit

Agentide maastik - õppetunnid agentide tootmisse viimisest

MLOps.community. Prosuse AI asepresident ja AI-insener räägivad, mis päriselt katki läks, kui nad agente kontserni portfelliettevõtetes juurutasid: prompt injectioni pen-testid enne käikulaskmist, ohtlik kirjutamine, kui Jira agent inimliku lühistiili otsa komistas, aegunud kontekst, mille vastu agendid õpetati oma eeldusi välja näitama, ning varulahenduste disain, kus agendid liideti või suleti, kui need kognitiivset koormust lisasid. See on nagu artikli vearegister, mis mängitakse läbi elava postmortem'ina.

7 minutit

Parem RAG ja AI agendid Doclinguga

IBM Technology. Video selgitab, kuidas valmistada PDF-id ja muud failid ette nii, et dokumendi struktuur, tabelid ja paigutus säiliksid ka hilisemas otsingus. See toetab artikli põhimõtet, et RAG-i kvaliteet ja ohutus algavad enne vektoresituste loomist.

Tootmiskeskkonna AI veamustrid: mis pärast demot katki läheb

AI-süsteemid ebaõnnestuvad tavaliselt etteaimatavatel viisidel: hallutsinatsioon, aegunud kontekst, liigne nõustumine, prompt injection, ohtlik tööriistakasutus, skeemitriiv ja nõrgad varuplaanid. Tootmise veamustrite register tiimidele, kes päris töövooge käitavad.

Privaatse AI juurutusmustrid: kohalik, VPC, isehostitud ja hübriidne

Privaatne AI ei ole üks arhitektuur. Praktiline võrdlus kohalike mudelite, ettevõtte SaaS-i, VPC-juurutuste, isehostitud inferentsi ja hübriidmustrite vahel privaatsust ja kontrolli vajavatele VKE-dele.

AI ühendamine e-kirja, kalendri ja CRM-iga turvaliselt

Riskipõhine juhend AI ühendamiseks e-kirja, kalendri ja CRM-iga minimaalse ulatuse, heakskiidu lävel, kaitstud audititõendite, negatiivsete testide ja taastumisteede abil.

8 min lugemist

Privaatsus ja andmehügieen AI kasutamisel tööl

Praktiline juhend privaatsus- ja konfidentsiaalsusriski vähendamiseks AI kasutamisel tööl. Enne kleepimist kontrolli täpset toodet, paketti, seadistust, andmeid ja kohaldatavaid reegleid.

Algaja

25 minutit

OWASP-i Top 10 viisi LLM-ide ründamiseks: AI haavatavused avalikustatud

IBM Technology. Suumib prompt injectionilt välja laiemale OWASP-i Top 10-le LLM-idele — turvamata väljundi käsitlemine, tundliku info avalikustamine, liigne agentsus — mis on täpselt see vigade-režiimide kataloog, mida tahad meeles pidada enne, kui annad millelegi Gmaili või HubSpoti scope'e.

11 minutit

Mis on prompt injection rünnak?

IBM Technology. Jeff Crume'i näide "osta SUV 1 dollari eest" on selgeim 10-minutiline selgitus sellele, miks otsene ja kaudne prompt injection on erinevad probleemid ja miks filtreerimine kumbagi täielikult lahendada ei suuda. Sobib otseselt artikli argumendiga, et sul on vaja vähima privileegi scope'e, sihtotstarbelist agendi-kontot ja inimest silmuses mistahes pöördumatuks tegevuseks — mitte nutikamat süsteemi prompti.

13 minutit

LLM-i ründamine - Prompt Injection

LiveOverflow. Raamib prompt injectioni klassikalise injection-rünnakuna süsteemide vastu, mis segavad juhiseid ja usaldamatuid andmeid — koos konkreetse sisu-modereerimise näitega, kus ründaja süüdistab süütut kasutajat. Mõtteline nihe "mudel on sihtmärk" → "rakendus on sihtmärk" on täpselt see käik, millega artikkel avab.

17 minutit

LLM-i kaitsmine - Prompt Injection

LiveOverflow. Käib läbi tegeliku sügava kaitse mängukava — taint-analüüs LLM-i väljundil, oodatavate väljundvormide piiramine, kasutaja isoleerimine, few-shot tellingud, fine-tuning, temperatuur 0 determineerituse jaoks, kriitiliste radade liiasus. See vastab artikli kaitsestäki sektsioonile peaaegu punkt punktilt.