Begleitvideos

Strukturierte Ausgaben und Funktionsaufrufe — Begleitvideos

Der Artikel stellt klar, dass die Aussage „Das LLM gibt JSON zurück“ erst dann belastbar ist, wenn Schemata, Validatoren, eine Wiederholungsstrategie und ein eindeutiger Umgang mit Ablehnungen oder erfundenen Feldern vorhanden sind. Diese beiden Vorträge begründen diesen Programmierstil besonders anschaulich: Der erste liefert das ursprüngliche Argument für typgesteuerte LLM-Programmierung. Der zweite zeigt aus erster Hand, wie der strikte JSON-Schema-Modus von OpenAI und Funktionsaufrufe im Produktionseinsatz zusammenspielen sollen.

Hauptauswahl

17:55

Pydantic ist alles, was Sie brauchen: Jason Liu

AI Engineer

Dieser Vortrag prägte das moderne Muster „Pydantic-Modell definieren, an das LLM übergeben und den Rest der Validierung überlassen“. Er zeigt konkrete Beispiele für verschachtelte Objekte, Validatoren, die halluzinierte URLs erkennen, und Gedankengänge als typisiertes Feld. Sehen Sie ihn sich vor dem erneuten Lesen des Artikelabschnitts über Validatoren an; dann wird deutlich, woher dessen Regeln für Wiederholungsversuche und Ablehnungen stammen.

Was Sie aus diesem Video mitnehmen sollten: Verstehen, warum schemaorientierte LLM-Aufrufe typisierte Objekte, Validatoren, Wiederholungsversuche und einen expliziten Umgang mit fehlerhaften oder halluzinierten Feldern benötigen.

Das sollten Sie zuerst ansehen oder wissen: Sicherer Umgang mit Python und LLM-API-Aufrufen; Erfahrung mit Pydantic ist hilfreich, aber nicht erforderlich.

Hinweis von AI Expert: Das Video bleibt als Ursprung des schemaorientierten Musters erhalten. Sehen Sie es sich an, um die Herkunft der Validator-, Wiederholungs- und Ablehnungsregeln des Artikels zu verstehen. Setzen Sie diese anschließend mit den Werkzeugen für strukturierte Ausgaben um, die Ihr Stack verwendet.

Videoseite öffnen

Auch sehenswert

40:39

OpenAI DevDay 2024 | Strukturierte Ausgaben für zuverlässige Anwendungen

OpenAI

Der Vortrag behandelt `strict: true`, den Unterschied zum früheren JSON-Modus, den Umgang mit Ablehnungen sowie das Zusammenspiel von Funktionsaufrufen und Schemata für Antwortformate. Er ist besonders nützlich, weil er den API-Vertrag beschreibt, auf dem die Produktionsmuster des Artikels aufbauen.

Was Sie aus diesem Video mitnehmen sollten: Erklären können, was der strikte Modus garantiert, wie er sich vom früheren JSON-Modus unterscheidet und wie Ablehnungen in den Vertrag für strukturierte Ausgaben passen.

Das sollten Sie zuerst ansehen oder wissen: Praktische Grundkenntnisse zu Funktionsaufrufen und JSON Schema.

Hinweis von AI Expert: Das Video liegt knapp unter unserer Schwelle für Aufrufzahlen, ist aber maßgeblich: Das Team hinter dem strikten Modus erläutert den API-Vertrag, auf dem die Produktionsmuster des Artikels aufbauen.

Videoseite öffnen