Kas see on RAG-i lõpp? Anthropicu UUS prompti caching

Prompt Engineering. Käib läbi Anthropicu prompti caching'u vs Gemini konteksti-caching'u koos konkreetsete latentsuse ja kulu vähenemistega kasutusjuhtumi kohta (pikkade dokumentide chat, few-shot, multi-turn). Cache-write lisatasu vs cache-read soodustuse lahtimõtestamine on täpselt see, mida artikkel eeldab, kui ta räägib sellest, millal caching ennast ära tasub.

Järgmisena vaata

Jätka sama õpiteekonda järgmiste hoolikalt valitud kaasvideotega.

32 minutit

Kiire LLM-serveerimine vLLM-i ja PagedAttentioniga

Saad tehnilise mustri teemal "Ise-hostitud vs hostitud inference" ning oskad hinnata riske, piire ja järgmist sammu.

EkspertPrivaatne ja lokaalne AI

34 minutit

Kuidas AI tarkvara ärimudeleid taasleiutab ft. Bret Taylor Sierrast

Saad tehnilise mustri teemal "LLM-toote välja saatmine" ning oskad hinnata riske, piire ja järgmist sammu.

EkspertAI ettevõttes

6 minutit

AI hääleagendid: kuidas need päriselt töötavad ja miks need nii inimlikult kõlavad

Tunda ära hääleagendi põhiarhitektuur ja need veakohad, mis mõjutavad päriskõnedes kliendi usaldust.

EkspertAutomatiseerimine