Begleitvideos

Kontextengineering: 1M-Token-Fenster ohne Kontextverfall verwalten — Begleitvideos

Der Artikel behandelt die Lücke zwischen „Das Modell unterstützt 1M Tokens“ und „Das Modell nutzt 1M Tokens zuverlässig“. Er erläutert die Fehlermodi, vier Maßnahmen des Context Engineering — Schreiben, Auswählen, Komprimieren und Isolieren — sowie Budgets, die lange Sitzungen nutzbar halten. Diese beiden Videos formulieren zuerst das Problem und anschließend die Lösungen besonders klar.

Hauptauswahl

7:56

Context Rot: Wie mehr Eingabe-Tokens die LLM-Leistung beeinflussen

Chroma

Kelly Hong stellt Chromas Untersuchung von 18 Modellen vor: weshalb Needle-in-a-Haystack-Ergebnisse irreführend sein können, wie die Leistung bei Mehrdeutigkeit und Ablenkungen nachlässt und warum selbst einfache Aufgaben zur Wiederholung von Zeichenketten jenseits von 500 Tokens schlechter werden. Der Vortrag ist kurz, evidenzbasiert und liefert genau den Befund, den Sie ernst nehmen sollten, bevor der Artikel zu technischen Maßnahmen übergeht.

Was Sie aus diesem Video mitnehmen sollten: Verstehen, wie lange Kontexte unter Mehrdeutigkeit und Ablenkungen versagen können, und Tests für dieses Risiko entwerfen.

Das sollten Sie zuerst ansehen oder wissen: Lediglich grundlegendes LLM-Vokabular; dies ist ein kurzer Forschungsvortrag.

Hinweis von AI Expert: Modellnamen, Preise und Fähigkeiten ändern sich schnell. Nutzen Sie das Video für das Entscheidungsmuster und prüfen Sie vor dem Einsatz das aktuelle Modellverhalten.

Videoseite öffnen

Auch sehenswert

22:06

Context Engineering für Agenten

LangChain

Lance Martin erläutert das Modell „Schreiben, Auswählen, Komprimieren, Isolieren“ anhand konkreter Beispiele: wann eine Aktionshistorie zusammenzufassen ist, wann Zustand in Dateien ausgelagert werden sollte und wann Unteragenten allein zum Schutz des Kontexts des übergeordneten Agenten sinnvoll sind. Das entspricht nahezu direkt dem Artikelabschnitt zur praktischen Verwaltung von 1M-Token-Fenstern.

Was Sie aus diesem Video mitnehmen sollten: Die Muster Schreiben, Auswählen, Komprimieren und Isolieren anwenden, um Agentenkontext bewusst zu verwalten.

Das sollten Sie zuerst ansehen oder wissen: Erfahrung mit dem Bau oder Betrieb von Agenten mit langlaufendem Kontext.

Hinweis von AI Expert: Modellnamen, Preise und Fähigkeiten ändern sich schnell. Nutzen Sie das Video für das Entscheidungsmuster und prüfen Sie vor dem Einsatz das aktuelle Modellverhalten.

Videoseite öffnen