RAG для промышленной эксплуатации: приём данных, поиск, переранжирование и оценка — видео к статье

AI Engineer

Генеральный директор LlamaIndex разбирает разрыв между «наивной демонстрацией RAG» и системой для реальной эксплуатации: поиск от малых фрагментов к крупным (small-to-big), маршрутизацию по подвопросам, гибридный поиск и оценку. Структура его слайдов почти напрямую соответствует стадиям конвейера в статье; сначала посмотрите видео, затем перечитайте статью, сверяясь с его диаграммами.

Что вынести из этого видео: Вы поймёте, каких механизмов промышленной эксплуатации не хватает простым демонстрационным чатам по документам.

Что посмотреть или знать заранее: Вы собирали или оценивали базовый прототип RAG.

AI Engineer

Доуве Кила руководил оригинальной работой про RAG в FAIR, а теперь внедряет RAG на регулируемых предприятиях. Выступление в основном о том, что перестаёт работать при масштабировании, — стратегии чанкинга, не пережившие 100K документов, «точность — это базовый уровень, реальная проблема — это неточность», и почему атрибуция и наблюдаемость важнее, чем модель эмбеддингов. Хорошая калибровка перед перечитыванием разделов статьи про оценку и мониторинг.

Что вынести из этого видео: Вы поймёте, что ломается, когда RAG выходит в регулируемое корпоративное применение с высокими ставками.

Что посмотреть или знать заранее: Вы знаете базовый конвейер RAG и понимаете, почему важна атрибуция.