"Tahan, et Llama3 mu privaatse teadmusega 10x paremini töötaks" - lokaalne agentne RAG llama3-ga

24 minutitEdasijõudnudKoodita AI-tööriistad

AI Jason. Katab täpselt selle stäki, mille eest artikkel argumenteerib — päringu tõlkimine, hübriid-leidmine, reranking ja korrigeeriv RAG-silmus — ühes käivitatavas ehituses. Kasulik töötava mõttemudelina selle kohta, milline chunk → rerank → vastus konveier välja näeb, kui see oma tööd päriselt teeb.

AI Experti märkus

Mudelite nimed, hinnad ja võimekused muutuvad kiiresti. Kasuta videot otsustusmustri mõistmiseks ning kontrolli praegust mudelikäitumist enne kasutuselevõttu.

Mida sellest videost kaasa võtta

Saad tehnilise mustri teemal "Chunking, reranking ja hübriidotsing" ning oskad hinnata riske, piire ja järgmist sammu.

Mida enne vaadata või teada

Kasuks tuleb arusaam API-dest, automatsioonidest, RAG-ist või agentide tööpõhimõtetest.

Järgmisena vaata

Jätka sama õpiteekonda järgmiste hoolikalt valitud kaasvideotega.

Seotud videod