AI Expert

Begleitvideos

KI sicher mit E-Mail, Kalender und CRM verbinden: Begleitvideos

Sobald ein KI-Tool Ihren Posteingang lesen darf, kann nicht vertrauenswürdiger Text wie eine ausführbare Anweisung wirken. Der Artikel erläutert OAuth-Berechtigungsbereiche, dedizierte Dienstkonten und Kontrollpunkte mit menschlicher Freigabe. Die Videos machen das zugrunde liegende Angriffsmodell der Prompt-Injection so konkret, dass seine Tragweite deutlich wird.

Hauptauswahl

10:57
Was ist ein Prompt-Injection-Angriff?

IBM Technology

Jeff Crumes Beispiel „Kaufen Sie einen SUV für 1 Dollar“ erklärt in zehn Minuten besonders anschaulich, warum direkte und indirekte Prompt-Injection unterschiedliche Probleme darstellen und weshalb Filter beide nicht vollständig lösen können. Das passt unmittelbar zum Argument des Artikels: Sie benötigen OAuth-Berechtigungsbereiche nach dem Prinzip der geringsten Rechte, ein dediziertes Agentenkonto und menschliche Freigabe für jede irreversible Aktion, nicht nur einen raffinierteren System-Prompt.

Was Sie aus diesem Video mitnehmen sollten: Sie unterscheiden direkte von indirekter Prompt Injection und verstehen, warum Filter allein nicht genügen.

Das sollten Sie zuerst ansehen oder wissen: Keine; das Video ist ohne Vorkenntnisse verständlich.

Hinweis von AI Expert: Verstehen Sie das Video als konzeptionelle Orientierung. Verwenden Sie keine echten Unternehmensdaten, solange Berechtigungen, Aufbewahrung, Protokollierung und die Grenzen menschlicher Prüfung nicht eindeutig geregelt sind.

Videoseite öffnen

Auch sehenswert

25:11
OWASPs zehn wichtigste Angriffswege gegen LLMs: KI-Schwachstellen offengelegt

IBM Technology

Das Video erweitert den Blick von Prompt-Injection auf die OWASP Top 10 für LLMs, darunter unsichere Ausgabeverarbeitung, Offenlegung sensibler Informationen und übermäßige Handlungsautonomie. Genau diesen Katalog möglicher Fehlerszenarien sollten Sie kennen, bevor Sie einem System Berechtigungsbereiche für Gmail oder HubSpot erteilen.

Was Sie aus diesem Video mitnehmen sollten: Sie nutzen die OWASP-Risikokategorien für LLMs, um Tool-Zugriffe, Ausgabeverarbeitung und die mögliche Offenlegung sensibler Daten zu prüfen.

Das sollten Sie zuerst ansehen oder wissen: Der Angriffsrahmen aus der Hauptempfehlung hilft; Sicherheitskenntnisse sind nicht erforderlich.

Hinweis von AI Expert: Verstehen Sie das Video als konzeptionelle Orientierung. Verwenden Sie keine echten Unternehmensdaten, solange Berechtigungen, Aufbewahrung, Protokollierung und die Grenzen menschlicher Prüfung nicht eindeutig geregelt sind.

Videoseite öffnen