Сборка продакшн-RAG: приём данных, эмбеддинги, извлечение, реранкинг, оценка — видео к статье

AI Engineer

Генеральный директор LlamaIndex разбирает разрыв между «наивным RAG-демо» и реальным пайплайном — извлечение от малого к большому (small-to-big), маршрутизация по подвопросам, гибридный поиск, оценка. Структура его слайдов почти напрямую ложится на разделы пайплайна в статье; сначала посмотрите видео, затем перечитайте статью, держа в голове его диаграммы.

Что вынести из этого видео: Вы поймёте, каких продакшн-механизмов RAG не хватает в наивных демо с чатом по документам.

Что посмотреть или знать заранее: Вы собирали или оценивали базовый прототип RAG.

AI Engineer

Доуве Кила руководил оригинальной работой про RAG в FAIR, а теперь внедряет RAG на регулируемых предприятиях. Выступление в основном о том, что перестаёт работать при масштабировании, — стратегии чанкинга, не пережившие 100K документов, «точность — это базовый уровень, реальная проблема — это неточность», и почему атрибуция и наблюдаемость важнее, чем модель эмбеддингов. Хорошая калибровка перед перечитыванием разделов статьи про оценку и мониторинг.

Что вынести из этого видео: Вы поймёте, что ломается, когда RAG выходит в регулируемое корпоративное применение с высокими ставками.

Что посмотреть или знать заранее: Вы знаете базовый пайплайн RAG и понимаете, почему важна атрибуция.