KI-Sicherheit

Prompt Injection und LLM-Sicherheit: Bedrohungsmodelle und mehrschichtige Abwehr

Prompt Injection ist eine dauerhafte Klasse von LLM-Sicherheitsrisiken und kein Fehler beim Formulieren von Prompts. Ein Praxisleitfaden zu Bedrohungsmodellen, Datengrenzen, Werkzeugberechtigungen, Regressionstests, Überwachung und Reaktion auf Sicherheitsvorfälle.

RAG für Unternehmenswissen: Berechtigungen, Datenlecks und Quellengrenzen

Ein Assistent für Unternehmenswissen ist nur sicher, wenn sein Retrieval Berechtigungen respektiert. So gestalten Sie RAG-Quellengrenzen, ACL-Filterung, Dokumentverantwortung, Protokollierung, den Umgang mit veralteten Quellen und sicheres Verweigerungsverhalten.

11 Min. Lesezeit

Sichere Dokumentenaufnahme für RAG: PDFs, OCR, Metadaten und Aufbewahrung

Die Qualität von RAG beginnt vor dem Retrieval. Ein Leitfaden zur sicheren Aufnahme von PDFs, OCR-Text, Metadaten, Berechtigungen und aktuellen Quellen sowie zu Löschung, Malware-Risiken und betrieblicher Verantwortung.

Weitere in diesem Thema

7 Min. Lesezeit

Hermes-Webhooks: ereignisgesteuerte Agenten ohne riesigen Allzweck-Prompt

Konfigurieren Sie Hermes-Agent-Webhooks mit anbietergerechter Authentifizierung, Health-Checks auf Port 8644 und kleinen benannten Routen, damit Ereignisse fokussierte Agentenläufe mit einem klaren Zustellziel auslösen.

NemoClaw auf DGX Spark: Deployment- und Sicherheitsplan

OpenClaw, Hermes oder Deep Agents Code in NVIDIA OpenShell auf DGX Spark planen und bewerten: aktuelles Onboarding, Policy-Schichten, geroutete Inferenz und die erforderlichen Abnahmenachweise.

8 Min. Lesezeit

OpenClaw: Allowlists, Pairing und sichere Erwähnungen in Gruppen

Kanal-Allowlists, Pairing für Direktnachrichten und Regeln für Erwähnungen in Gruppen bilden die tatsächliche Sicherheitsgrenze von OpenClaw, denn Werkzeuge können Shell, Dateien und Browser umfassen. Eine praktische Checkliste zur Absicherung.

9 Min. Lesezeit

Persönliches OpenClaw-Gateway einrichten: Installation, Onboarding und Dashboard

Was OpenClaw ist, wie Sie das selbst gehostete Multikanal-Gateway installieren und einrichten, die Control UI auf Port 18789 öffnen und unterstützte Node-Versionen wählen, ohne die grundlegenden Sicherheitsmaßnahmen zu überspringen.

OpenClaw-Skills, Heartbeat-Autonomie und Freigabestufen

Wie OpenClaw Skills lädt, wie regelmäßige Heartbeat-Durchläufe funktionieren, wie sich die Shell-Ausführung auf dem Host absichern lässt und wie Browserautomatisierung durch restriktive Richtlinien und geprüfte Bestätigungsschritte begrenzt bleibt.

20 Minuten

Berechtigungen und Zugriffskontrolle für RAG – ein ausführliches Tutorial

Paragon. Das Video erläutert das Berechtigungsproblem produktiver RAG-Systeme und vergleicht Werkzeugaufrufe, Namespaces, ACL-Tabellen und beziehungsbasierte Berechtigungen. Damit stützt es direkt die Kernregel des Artikels: Retrieval darf nur Quellen zurückgeben, die der aktuelle Nutzer sehen darf, und die Berechtigungen der Quellsysteme dürfen nicht nachträglich ergänzt werden.

69 Minuten

Die Agentenlandschaft – Erkenntnisse aus dem Produktiveinsatz von Agenten

MLOps.community. Der VP of AI von Prosus und ein KI-Entwickler berichten, was beim Einsatz von Agenten in den Portfoliounternehmen der Gruppe tatsächlich schiefging: Penetrationstests auf Prompt-Injection vor dem Start, ein unsicherer Schreibvorgang, als ein Jira-Agent an menschlichen Abkürzungen scheiterte, Offenlegung von Annahmen bei veraltetem Kontext und Rückfallmechanismen, die Agenten zusammenführten oder abschalteten, sobald diese zusätzliche kognitive Last verursachten. Der Vortrag wirkt wie das Fehlermodusregister des Artikels als Live-Postmortem.

7 Minuten

Besseres RAG und leistungsfähigere KI-Agenten mit Docling

IBM Technology. Das Video erklärt die Aufnahmeseite von RAG und Agenten: PDFs und andere Dateien werden so vorbereitet, dass Dokumentstruktur, Tabellen und Layout für das nachgelagerte Retrieval erhalten bleiben. Das stützt die Warnung des Artikels, dass Qualität und Sicherheit von RAG bereits vor dem Embedding beginnen, besonders beim Parsen komplexer Geschäftsdokumente.

Fehlermodi produktiver KI-Systeme: Was nach der Demo schiefgehen kann

KI-Systeme scheitern auf vorhersehbare Weise: durch Halluzinationen, veralteten Kontext, übermäßige Zustimmung, Prompt Injection, unsichere Werkzeugnutzung, Schemadrift und schwache Fallbacks. Ein Fehlermodusregister für Teams, die reale Workflows bereitstellen.

Bereitstellungsmuster für private KI: lokal, in der VPC, selbst gehostet und hybrid

Private KI ist keine einzelne Architektur. Ein praktischer Vergleich lokaler Modelle, Enterprise-SaaS, VPC-Bereitstellungen, selbst gehosteter Inferenz und hybrider Muster für KMU, denen Datenschutz und Kontrolle wichtig sind.

KI sicher mit E-Mail, Kalender und CRM verbinden

Ein risikobasierter Leitfaden zur sicheren Anbindung von KI an E-Mail, Kalender und CRM: mit minimalen Berechtigungen, Freigabeschranken, geschützten Audit-Nachweisen, Negativtests und Wiederherstellungswegen.

8 Min. Lesezeit

Datenschutz und Datenhygiene beim Einsatz von KI am Arbeitsplatz

Ein praxisnaher Leitfaden zur Verringerung von Datenschutz- und Vertraulichkeitsrisiken beim KI-Einsatz im Beruf. Prüfen Sie vor dem Einfügen das genaue Produkt, den Tarif, die Konfiguration, die Daten und die geltenden Regeln.

Einsteiger

25 Minuten

OWASPs zehn wichtigste Angriffswege gegen LLMs: KI-Schwachstellen offengelegt

IBM Technology. Das Video erweitert den Blick von Prompt-Injection auf die OWASP Top 10 für LLMs, darunter unsichere Ausgabeverarbeitung, Offenlegung sensibler Informationen und übermäßige Handlungsautonomie. Genau diesen Katalog möglicher Fehlerszenarien sollten Sie kennen, bevor Sie einem System Berechtigungsbereiche für Gmail oder HubSpot erteilen.

11 Minuten

Was ist ein Prompt-Injection-Angriff?

IBM Technology. Jeff Crumes Beispiel „Kaufen Sie einen SUV für 1 Dollar“ erklärt in zehn Minuten besonders anschaulich, warum direkte und indirekte Prompt-Injection unterschiedliche Probleme darstellen und weshalb Filter beide nicht vollständig lösen können. Das passt unmittelbar zum Argument des Artikels: Sie benötigen OAuth-Berechtigungsbereiche nach dem Prinzip der geringsten Rechte, ein dediziertes Agentenkonto und menschliche Freigabe für jede irreversible Aktion, nicht nur einen raffinierteren System-Prompt.

13 Minuten

LLMs angreifen – Prompt Injection

LiveOverflow. Das Video ordnet Prompt-Injection als klassischen Injektionsangriff auf Systeme ein, die Anweisungen mit nicht vertrauenswürdigen Daten vermischen. Ein konkretes Moderationsbeispiel zeigt, wie ein Angreifer einen unschuldigen Nutzer belastet. Der Perspektivwechsel von „Das Modell ist das Ziel“ zu „Die Anwendung ist das Ziel“ entspricht genau dem Einstieg des Artikels.

17 Minuten

LLMs schützen – Prompt Injection

LiveOverflow. Der Vortrag behandelt das tatsächliche Defense-in-Depth-Modell: Taint-Analyse von LLM-Ausgaben, Einschränkung erwarteter Ausgabeformen, Nutzerisolation, Few-Shot-Gerüste, Fine-Tuning, Temperatur 0 für deterministischeres Verhalten und Redundanz auf kritischen Pfaden. Das entspricht dem Abwehrabschnitt des Artikels nahezu Punkt für Punkt.