AI-säkerhet

Promptinjektion och LLM-säkerhet: hotmodeller och djupförsvar

Promptinjektion är en permanent säkerhetsriskklass för LLM-system, inte ett misstag i promptskrivningen. En produktionsguide till hotmodeller, datagränser, verktygsbehörigheter, regressionstester, övervakning och incidenthantering.

RAG för företagskunskap: behörigheter, informationsläckage och källgränser

En kunskapsassistent för företag är säker endast om informationshämtningen respekterar behörigheterna. Så utformas källgränser för RAG, ACL-filtrering, dokumentägarskap, loggning, hantering av inaktuella källor och säkra avböjanden.

11 min läsning

Säker dokumentinläsning för RAG: PDF, OCR, metadata och lagringstid

Kvaliteten i RAG avgörs redan före informationshämtningen. En vägledning för säker inläsning av PDF-filer, OCR, metadata, behörigheter, källors aktualitet, radering, risk för skadlig kod och operativt ägarskap.

Mer i detta ämne

20 minuter

Behörigheter och åtkomstkontroll för RAG – en fördjupad guide

Paragon. Går igenom behörighetsproblemet för RAG i produktion och jämför verktygsanrop, namnrymder, ACL-tabeller och relationsbaserade behörigheter. Det stöder direkt artikelns huvudregel: informationshämtningen får endast returnera källor som den aktuella användaren har rätt att se, och källsystemens behörigheter får inte behandlas som en efterhandsfråga.

69 minuter

Agentlandskapet – lärdomar från att driftsätta agenter i produktion

MLOps.community. Prosus AI-chef och en AI-utvecklare berättar vad som faktiskt gick sönder när de driftsatte agenter i koncernens portföljbolag: penetrationstestning av promptinjektion före lansering, en osäker skrivning när en Jira-agent inte kunde tolka mänsklig kortnotation, inaktuell kontext som hanterades genom att agenterna fick redovisa sina antaganden samt reservlösningar som slog samman eller stängde av agenter när dessa började öka den kognitiva belastningen. Det är som att se artikelns register över fellägen spelas upp som en direktsänd incidentanalys.

7 minuter

Få bättre RAG och AI-agenter med Docling

IBM Technology. Förklarar inläsningsdelen av RAG och agenter: hur PDF-filer och andra filer förbereds så att dokumentstruktur, tabeller och layout bevaras för efterföljande informationshämtning. Det stöder artikelns varning om att kvaliteten och säkerheten hos RAG börjar före vektoriseringen, särskilt när komplexa affärsdokument ska tolkas.

Mönster för privat AI-driftsättning: lokalt, i VPC, i egen drift och hybrid

Privat AI är inte en enda arkitektur. Här jämförs lokala modeller, SaaS för företag, VPC-driftsättning, inferens i egen drift och hybridmönster för små och medelstora företag som behöver integritet och kontroll.

Fellägen för AI i produktion: det som går sönder efter demon

AI-system fallerar ofta på förutsägbara sätt: hallucinationer, inaktuell kontext, överdriven medhållsamhet, promptinjektion, osäker verktygsanvändning, schemadrift och bristfällig felhantering. Ett fellägesregister för team som driftsätter verkliga arbetsflöden.

Anslut AI säkert till e-post, kalender och CRM

Att ansluta AI till dina verkliga verktyg – e-post, kalender och CRM – frigör produktivitet men medför också risker. En praktisk guide till integrationerna som fungerar 2026, säkra mönster och gränserna du inte bör överskrida.

Mellannivå

8 min läsning

Integritet och datahygien när du använder AI på jobbet

En praktisk guide till att använda AI på jobbet utan att oavsiktligt röja kunddata, bryta mot företagets policy eller överträda GDPR. Gränserna, verktygen och vanorna du behöver bygga upp.

Nybörjare

25 minuter

OWASP:s 10 främsta sätt att angripa LLM:er: AI-sårbarheter avslöjade

IBM Technology. Vidgar perspektivet från promptinjektion till hela OWASP:s topp 10 för LLM:er – osäker hantering av utdata, exponering av känslig information och alltför långtgående handlingsfrihet. Det är precis den katalog över fellägen som du bör ha i åtanke innan du ger något åtkomst till Gmail eller HubSpot.

Mellannivå

11 minuter

Vad är en promptinjektionsattack?

IBM Technology. Jeff Crumes exempel med att ”köpa en SUV för 1 dollar” är den tydligaste förklaringen på 10 minuter av varför direkt och indirekt promptinjektion är två olika problem och varför filtrering inte kan lösa något av dem fullständigt. Den anknyter direkt till artikelns argument att du behöver behörigheter enligt principen om minsta privilegium, ett särskilt agentkonto och en människa i loopen för allt som inte går att ångra – inte en smartare systemprompt.

Mellannivå

13 minuter

Angrepp mot LLM – promptinjektion

LiveOverflow. Beskriver promptinjektion som ett klassiskt injektionsangrepp mot system som blandar instruktioner med data som inte är betrodda – med ett konkret exempel från innehållsmoderering där en angripare får en oskyldig användare att framstå som skyldig. Perspektivskiftet från ”modellen är målet” till ”applikationen är målet” är exakt det grepp som inleder artikeln.

17 minuter

Försvar av LLM – promptinjektion

LiveOverflow. Går igenom den faktiska spelplanen för djupförsvar – taintanalys av LLM-utdata, begränsning av förväntade utdataformat, användarisolering, few-shot-strukturer, finjustering, temperatur 0 för determinism och redundans i kritiska flöden. Den motsvarar artikelns avsnitt om djupförsvaret nästan punkt för punkt.