Begleitvideos

Warum KI selbstbewusst falsche Antworten gibt: eine Einführung in Halluzinationen – Begleitvideos

Der Artikel erklärt, warum ein Chatbot selbstbewusst, flüssig und dennoch falsch antworten kann – und was das für Ihre Nutzung bedeutet. Die beiden Videos vermitteln dieselbe Erkenntnis aus einer technischeren, aber weiterhin einsteigerfreundlichen Perspektive: ein kurzes Erklärvideo entlang einer Taxonomie und ein ausführliches Gespräch mit einem KI-Sicherheitsforscher darüber, woher der selbstbewusste Ton tatsächlich kommt.

Hauptauswahl

9:37

Warum große Sprachmodelle Halluzinationen erzeugen

IBM Technology

Martin Keen unterteilt Halluzinationen in vier benannte Kategorien – Satzwidersprüche, Prompt-Widersprüche, sachliche Fehler und Unsinn – und erläutert jede davon an einem Whiteboard. Nachdem der Artikel das Warum erklärt hat, gibt Ihnen das Video Begriffe an die Hand, mit denen Sie die Fehlerart in realen Situationen erkennen und die Vertrauenswürdigkeit einer Antwort einschätzen können.

Was Sie aus diesem Video mitnehmen sollten: Sie können die vier Arten von Halluzinationen benennen und erkennen, um welche Art es sich handelt, wenn ein Chatbot falsch antwortet.

Das sollten Sie zuerst ansehen oder wissen: Keine — kann ohne Vorkenntnisse angesehen werden.

Hinweis von AI Expert: Ausgewählt wurde das Video wegen seines Vokabulars aus vier Kategorien, nicht wegen besonderer Tiefe. Lesen Sie zuerst den Artikel, damit Sie auch die Ursachen hinter der Taxonomie verstehen.

Videoseite öffnen

Auch sehenswert

36:01

ChatGPT mit Rob Miles - Computerphile

Computerphile

Ein ausführliches, ruhiges Gespräch mit dem KI-Sicherheitsforscher Rob Miles darüber, warum ein auf die Vorhersage plausiblen Textes trainiertes Modell aufgrund seiner Funktionsweise immer wieder Fakten erfindet. Das Video wurde Anfang 2023 aufgenommen, doch der erläuterte Mechanismus hat sich nicht verändert. Die Darstellung vermittelt bis heute besonders klar: „Es ist eine Maschine für flüssige Sprache, keine Wahrheitsmaschine.“

Was Sie aus diesem Video mitnehmen sollten: Sie können erklären, warum ein auf die Vorhersage plausiblen Textes trainiertes Modell manchmal Fakten erfindet – unabhängig davon, wie ausgefeilt die Antwort klingt.

Das sollten Sie zuerst ansehen oder wissen: Keine; hilfreich ist jedoch, zuvor ein kurzes Erklärvideo zu Halluzinationen wie die Hauptempfehlung anzusehen.

Hinweis von AI Expert: Das Video wurde Anfang 2023 aufgenommen; ignorieren Sie daher veraltete Produktbezüge. Der erklärte Mechanismus „Maschine für flüssige Sprache statt Wahrheitsmaschine“ hat sich nicht verändert und ist der Grund, warum das Video relevant bleibt.

Videoseite öffnen