Kompletterande videor

Strukturerade utdata och funktionsanrop – kompletterande videor

Artikeln argumenterar för att ”LLM:en returnerar JSON” inte är ett meningsfullt påstående förrän du har scheman, validerare, en policy för nya försök och en tydlig plan för vad som händer när modellen vägrar eller hittar på fält. De här två föredragen ger de tydligaste argumenten för den här programmeringsstilen: det ena är det ursprungliga argumentet för typstyrd LLM-programmering, det andra är OpenAI:s egen genomgång av hur strikt JSON-schemaläge och funktionsanrop är avsedda att kombineras i produktion.

Förstahandsval

17:55

Pydantic är allt du behöver: Jason Liu

AI Engineer

Föredraget som utkristalliserade det moderna mönstret ”definiera en Pydantic-modell, ge den till LLM:en och låt valideringen sköta resten”, med konkreta exempel på nästlade objekt, validerare som upptäcker hallucinerade URL:er och Chain-of-Thought som ett typat fält. Se den innan du läser om artikelns avsnitt om validerare, så kommer du att känna igen varifrån reglerna för nya försök och vägran kommer.

Vad du bör få ut av detta: Lär dig varför schemastyrda LLM-anrop behöver typade objekt, validerare, nya försök och explicit hantering av felaktiga eller hallucinerade fält.

Titta på eller ha koll på först: Du bör vara bekväm med Python och LLM-API-anrop. Erfarenhet av Pydantic är en fördel men inget krav.

Anteckning från AI Expert: Behålls som ursprunget till det schemastyrda mönstret – se den för att förstå varifrån artikelns regler för validerare, nya försök och vägran kommer och implementera sedan med de verktyg för strukturerade utdata som din stack använder.

Öppna videosidan

Värt att titta på

40:39

OpenAI DevDay 2024 | Strukturerade utdata för tillförlitliga applikationer

OpenAI

Går igenom `strict: true`, skillnaden mot det gamla JSON-läget, hantering av vägran och hur funktionsanrop kombineras med scheman för svarsformat. Den är användbar just för att den beskriver det avtal som API:et ger dig, vilket är grunden för artikelns produktionsmönster.

Vad du bör få ut av detta: Du kan förklara vad strikt läge garanterar, hur det skiljer sig från det gamla JSON-läget och hur hantering av vägran passar in i avtalet för strukturerade utdata.

Titta på eller ha koll på först: Praktisk kunskap om funktionsanrop och grunderna i JSON Schema.

Anteckning från AI Expert: Strax under vår gräns för antal visningar, men normgivande – teamet som lanserade strikt läge beskriver det API-avtal som artikelns produktionsmönster bygger på.

Öppna videosidan