Видео к статье

Структурированный вывод и вызов функций — видео к статье

Статья утверждает, что «LLM возвращает JSON» перестаёт быть реальным утверждением, пока у вас нет схем, валидаторов, политики повторных попыток и ясного понимания того, что происходит, когда модель отказывается отвечать или придумывает поля. Эти два выступления — самый убедительный довод в пользу такого стиля кода: одно — оригинальный аргумент в пользу типизированного LLM-программирования, второе — собственный разбор от OpenAI о том, как должны сочетаться строгий режим JSON-schema и вызов функций в продакшене.

Основная рекомендация

17:55
Pydantic is all you need: Jason Liu

AI Engineer

Выступление, кристаллизовавшее современный паттерн «опиши модель Pydantic, отдай её LLM, пусть валидация делает остальное», с конкретными примерами вложенных объектов, валидаторов, ловящих галлюцинированные URL, и Chain-of-Thought как типизированного поля. Посмотрите его перед перечитыванием раздела статьи про валидаторы — и узнаете, откуда взялись её правила повторных попыток и отказов.

Что вынести из этого видео: Понять, почему вызовы LLM по схеме требуют типизированных объектов, валидаторов, повторных попыток и явной обработки некорректных или галлюцинированных полей.

Открыть страницу видео

Также стоит посмотреть

40:39
OpenAI DevDay 2024 | Structured outputs for reliable applications

OpenAI

Проходит по `strict: true`, отличиям от старого JSON-режима, обработке отказов и тому, как сочетаются вызов функций и схемы response-format. Полезно ровно тем, что описывает контракт, который вам даёт API, — а именно на нём построены продакшн-паттерны статьи.

Что вынести из этого видео: Сможете объяснить, что гарантирует строгий режим, чем он отличается от старого JSON-режима и как обработка отказов вписывается в контракт структурированного вывода.

Открыть страницу видео