関連動画

構造化出力と関数呼び出し:本番運用のパターン — 関連動画

記事では、スキーマ、バリデーター、再試行ポリシーに加え、モデルが拒否したり存在しないフィールドを作り出したりした場合の明確な対応方針がなければ、「LLMがJSONを返す」という主張は実質的な意味を持たないと論じています。この2本の講演は、そのコーディングスタイルの必要性を最も明快に示しています。1本目は型駆動のLLMプログラミングを提唱した原点であり、2本目は厳格なJSON Schemaモードと関数呼び出しを本番環境でどう組み合わせるべきかをOpenAI自身が解説しています。

主な選択肢

17:55
必要なのはPydanticだけ:Jason Liu

AI Engineer

「Pydanticモデルを定義してLLMに渡し、残りは検証に任せる」という現代的なパターンを確立した講演です。ネストしたオブジェクト、ハルシネーションによるURLを検出するバリデーター、型付きフィールドとしての思考の連鎖など、具体例を紹介しています。記事のバリデーターに関する節を読み直す前に視聴すれば、再試行と拒否のルールがどこから来たのかを理解できます。

このセクションから得られるもの: スキーマ優先のLLM呼び出しに、型付きオブジェクト、バリデーター、再試行、不正なフィールドやハルシネーションによるフィールドの明示的な処理が必要な理由を学べます。

視聴または事前に知っておくべきもの: PythonとLLM APIの呼び出しに慣れていること。Pydanticの経験があると理解しやすくなりますが、必須ではありません。

AI Expertの注記: スキーマ優先パターンの原点として選定しています。記事にある検証、再試行、拒否のルールの由来を理解し、そのうえで自分のスタックが採用している構造化出力ツールを使って実装してください。

動画ページを開く

あわせて見たい動画

40:39
OpenAI DevDay 2024|信頼性の高いアプリケーションのための構造化出力

OpenAI

`strict: true`、従来のJSONモードとの違い、拒否の処理、関数呼び出しとレスポンス形式のスキーマを組み合わせる方法を順に解説しています。APIが提供する契約を説明しており、記事の本番パターンはその契約の上に構築されているため、特に有用です。

このセクションから得られるもの: 厳格モードが保証する内容、従来のJSONモードとの違い、構造化出力の契約に拒否の処理がどう組み込まれるかを説明できます。

視聴または事前に知っておくべきもの: 関数呼び出しとJSON Schemaの基礎知識。

AI Expertの注記: 視聴回数の基準をわずかに下回りますが、厳格モードを開発したチームが、記事の本番パターンの土台となるAPI契約を説明する公式資料です。

動画ページを開く