Build Hour: Prompt Caching
OpenAI. OpenAI enda Build Hour prompti caching'ust — 1024-tokeni künnis, eesliite-stabiilsuse nõue, audio caching 99% soodustusega realtime'i jaoks, time-to-first-token mõjud pikkade sisendite korral. Kasulik, kui mõõdad inseneri-pingutust, mida nõuab cache'i päriselt usaldusväärselt tabamine oma produktsiooni-promptidel.
Mida sellest videost kaasa võtta
Saad tehnilise mustri teemal "Inference'i kulu-optimeerimine" ning oskad hinnata riske, piire ja järgmist sammu.
Järgmisena vaata
Jätka sama õpiteekonda järgmiste hoolikalt valitud kaasvideotega.
32 minutitKiire LLM-serveerimine vLLM-i ja PagedAttentioniga
Saad tehnilise mustri teemal "Ise-hostitud vs hostitud inference" ning oskad hinnata riske, piire ja järgmist sammu.
Vaata järgmist
42 minutitVertikaalsed AI-agendid võivad olla 10X SaaS-ist suuremad
Saad tehnilise mustri teemal "LLM-toote välja saatmine" ning oskad hinnata riske, piire ja järgmist sammu.
Vaata järgmist
48 minutitKuidas ehitada usaldusväärseid AI agente: kontekst ja evalid
Disainida AI töövooge konteksti, evalide ja observability ümber, nii et tootmisvead oleksid nimetatavad, mõõdetavad ja parandatavad.
Vaata järgmistSeotud videod
4 minutitIntroducing EmbeddingGemma: The Best-in-Class Open Model for On-Device Embeddings
32 minutitHow to Build Human-Centered AI Workflows in Localization with Shashi Bhushan
59 minutitHüppest harjumuseks: kuidas tehnoloogiaettevõtted skaleerivad AI-d eksperimendist kaugemale
41 minutitPrivaatne AI vs pilv: kuidas juhid saavad teha targemaid build-or-buy otsuseid
Mine sügavamale
Hoolikalt valitud välised kursused, mis aitavad sellesse teemasse sügavamalt minna.
Coursera · DeepLearning.AIAI for Everyone
Kuus aastat pärast ilmumist endiselt parim lähtepunkt kõigile, kes peavad tehisintellektist aru saama ilma programmeerimist õppimata. Ei matemaatikat, ei žargooni, ei ülepaisutust — pärast lõpetamist oskad pidada tehisintellekti projektide üle teadlikku vestlust.
Coursera · The Wharton SchoolAI Strategy and Governance
Whartoni tugev raamistik juhtidele, kes peavad tegema ehita-või-osta otsuseid. Kursus ei müü tööriistu, vaid keskendub tehisintellekti kasutuse majandusele, algoritmilisele kallutatusele, andmeusaldusväärsusele ja juhtimistavadele, mis peavad auditile vastu.