Oheisvideot

Tuotannon RAG-suunnittelu: aineiston tuonti, haku, uudelleenjärjestely ja arviointi — saatevideot

Artikkeli käy läpi, mitä muuttuu, kun RAG-järjestelmä siirtyy notebookista oikeaan liikenteeseen — ingestointireunatapaukset, upotusvalinta, hybridihaku, uudelleenjärjestäjät ja arviointiympäristö, joka pitää koko putken vastuullisena. Nämä kaksi AI Engineer Summit -puhetta ovat selkeimmät kameralla tehdyt versiot tuosta tarinasta: toinen LlamaIndex-puolelta siitä, miltä todellinen tuotanto-RAG-pino näyttää, toinen alkuperäisen RAG-artikkelin pääkirjoittajalta siitä, mikä on pureksinut häntä Fortune 500 -asiakkaiden käyttöönotoissa.

Päävalinta

18:34

Tuotantovalmiiden RAG-sovellusten rakentaminen: Jerry Liu

AI Engineer

LlamaIndexin toimitusjohtaja käy läpi kuilua ”naiivin RAG-demon” ja oikean putken välillä — small-to-big -haku, alikyselyreititys, hybridihaku, arviointi. Hänen diojensa muoto kartoittuu lähes suoraan artikkelin putkiosioihin; katso ensin, sitten lue artikkeli uudelleen hänen kaavionsa mielessäsi.

Mitä sinun pitäisi oppia tästä: Tunnista tuotanto-RAG:in säätimet, jotka puuttuvat naiiveista document-chat-demoista.

Katso tai hallitse ensin: Olet rakentanut tai arvioinut perus-RAG-prototyypin.

AI Expert -huomio: LlamaIndex-API:t ja suositellut komponentit muuttuvat, mutta tuotantokuilut kestävät: ingestointilaatu, haun reititys, uudelleenjärjestäminen, arvioinnit ja havainnoitavuus. Varmista nykyiset kirjaston oletukset ennen toteutusta.

Avaa videosivu

Kannattaa katsoa myös

16:56

RAG-agentit tuotannossa: 10 oppia — Douwe Kiela, RAG:n luoja

AI Engineer

Douwe Kiela johti alkuperäistä RAG-artikkelia FAIR:ssa ja toimittaa nyt RAG:ia säänneltyihin yrityksiin. Puhe käsittelee enimmäkseen sitä, mikä lakkaa toimimasta skaalassa — pilkkomisstrategiat, jotka eivät selviä 100k asiakirjasta, ”tarkkuus on pöytäpanos, epätarkkuus on oikea ongelma”, ja miksi attribuutio ja havainnoitavuus merkitsevät enemmän kuin upotusmalli. Hyvä kalibrointi ennen artikkelin arviointi- ja valvontaosioiden uudelleenlukemista.

Mitä sinun pitäisi oppia tästä: Ymmärrä, mikä rikkoutuu, kun RAG siirtyy säänneltyyn, korkean panoksen yrityskäyttöön.

Katso tai hallitse ensin: Tunne perus-RAG-putki ja miksi attribuutio merkitsee.

AI Expert -huomio: Vahvaa tuotannon varoitusmateriaalia. Käytä sitä arkkitehtuuripäätösten stressitestaukseen, erityisesti käyttöoikeuksiin, attribuutioon, havainnoitavuuteen ja käyttäjän luottamukseen, ennen upotusmallin yksityiskohtien väittelyä.

Avaa videosivu