Begleitvideos

Ein produktionsreifes RAG-System entwickeln — Begleitvideos

Der Artikel erläutert, was sich ändert, wenn ein RAG-System vom Notebook in den realen Betrieb wechselt: Sonderfälle bei der Ingestion, die Wahl des Embedding-Modells, hybride Suche, Reranker und ein Eval-System, das die gesamte Pipeline überprüfbar macht. Diese beiden Vorträge vom AI Engineer Summit erzählen diese Entwicklung besonders anschaulich. Der erste zeigt aus Sicht von LlamaIndex, wie ein tatsächlicher Produktions-Stack für RAG aussieht. Der zweite stammt vom Hauptautor der ursprünglichen RAG-Forschungsarbeit und beschreibt, welche Probleme beim Einsatz für Fortune-500-Kunden auftraten.