Kas see on RAG-i lõpp? Anthropicu UUS prompti caching
Prompt Engineering. Käib läbi Anthropicu prompti caching'u vs Gemini konteksti-caching'u koos konkreetsete latentsuse ja kulu vähenemistega kasutusjuhtumi kohta (pikkade dokumentide chat, few-shot, multi-turn). Cache-write lisatasu vs cache-read soodustuse lahtimõtestamine on täpselt see, mida artikkel eeldab, kui ta räägib sellest, millal caching ennast ära tasub.
Mida sellest videost kaasa võtta
Saad tehnilise mustri teemal "Inference'i kulu-optimeerimine" ning oskad hinnata riske, piire ja järgmist sammu.
Järgmisena vaata
Jätka sama õpiteekonda järgmiste hoolikalt valitud kaasvideotega.
32 minutitKiire LLM-serveerimine vLLM-i ja PagedAttentioniga
Saad tehnilise mustri teemal "Ise-hostitud vs hostitud inference" ning oskad hinnata riske, piire ja järgmist sammu.
Vaata järgmist
42 minutitVertikaalsed AI-agendid võivad olla 10X SaaS-ist suuremad
Saad tehnilise mustri teemal "LLM-toote välja saatmine" ning oskad hinnata riske, piire ja järgmist sammu.
Vaata järgmist
48 minutitKuidas ehitada usaldusväärseid AI agente: kontekst ja evalid
Disainida AI töövooge konteksti, evalide ja observability ümber, nii et tootmisvead oleksid nimetatavad, mõõdetavad ja parandatavad.
Vaata järgmistSeotud videod
4 minutitIntroducing EmbeddingGemma: The Best-in-Class Open Model for On-Device Embeddings
32 minutitHow to Build Human-Centered AI Workflows in Localization with Shashi Bhushan
59 minutitHüppest harjumuseks: kuidas tehnoloogiaettevõtted skaleerivad AI-d eksperimendist kaugemale
41 minutitPrivaatne AI vs pilv: kuidas juhid saavad teha targemaid build-or-buy otsuseid
Mine sügavamale
Hoolikalt valitud välised kursused, mis aitavad sellesse teemasse sügavamalt minna.
Coursera · DeepLearning.AIAI for Everyone
Kuus aastat pärast ilmumist endiselt parim lähtepunkt kõigile, kes peavad tehisintellektist aru saama ilma programmeerimist õppimata. Ei matemaatikat, ei žargooni, ei ülepaisutust — pärast lõpetamist oskad pidada tehisintellekti projektide üle teadlikku vestlust.
Coursera · The Wharton SchoolAI Strategy and Governance
Whartoni tugev raamistik juhtidele, kes peavad tegema ehita-või-osta otsuseid. Kursus ei müü tööriistu, vaid keskendub tehisintellekti kasutuse majandusele, algoritmilisele kallutatusele, andmeusaldusväärsusele ja juhtimistavadele, mis peavad auditile vastu.