Videod

IBM Technology. Selgitab RAG-i ja agentide sisestuspoolt: kuidas PDF-id ja muud failid ette valmistada, et dokumendi struktuur, tabelid ja paigutus säiliksid otsingu jaoks. See toetab artikli hoiatust, et RAG-i kvaliteet ja ohutus algavad enne embeddinguid.

Paragon. Käib läbi tootmise RAG-i õiguste probleemi ning võrdleb tööriistakutseid, namespace’e, ACL-tabeleid ja relatsioonipõhiseid õigusi. See toetab artikli põhireeglit: otsing peab tagastama ainult need allikad, mida praegune kasutaja tohib näha.

Arize AI. Selgitab, miks tootmisagendid ebaõnnestuvad, kui süsteemil pole õiget konteksti, hindamisandmeid, trace’e ja domeeniekspertiisi. See sobib artikli vearegistriga: eralda otsing arutlusest, defineeri oodatud tulemus, hinda tööriistakutseid ja jälgi vigu enne mudeli vahetamist.

Y Combinator. Lightcone'i juhid töötavad läbi, miks vertikaalsed AI-agendid — mitte horisontaalsed mähised — on rakenduskihi ettevõtetele kaitstav kuju, koos konkreetsete näidetega ja selge pilguga selle peale, millised kategooriad mudelipakkujad ära söövad. See on anti-vallikraavi lõks, mille eest artikkel hoiatab, väljendatud positiivse mängukavana.

Sequoia Capital. Bret Taylor käib läbi nihke per-seat SaaS-ilt tulemustepõhisele hinnastamisele — millele kinnituda (lahendamine, CSAT, NPS), miks etableeritud tegijatel on raske järele tulla ja kuidas vertikaalne spetsialiseerumine loob hinnastamisjõudu. See peegeldab otseselt artikli hinnastamise ja marginaali sektsioone.

Anyscale. Käib läbi, miks naiivne LLM-serveerimine raiskab 60–80% GPU mälust, kuidas PagedAttention laenab OS-i stiilis pagineerimist seda parandama ja miks pidev batching toodab 24× läbilaskvuse numbreid, mida artikkel oma matemaatikas kasutab. Pärast seda lakkab artikli "õnneks tabad 50% kasutusastet" rida abstraktne olemast.

OpenAI. OpenAI enda Build Hour prompti caching'ust — 1024-tokeni künnis, eesliite-stabiilsuse nõue, audio caching 99% soodustusega realtime'i jaoks, time-to-first-token mõjud pikkade sisendite korral. Kasulik, kui mõõdad inseneri-pingutust, mida nõuab cache'i päriselt usaldusväärselt tabamine oma produktsiooni-promptidel.

Prompt Engineering. Käib läbi Anthropicu prompti caching'u vs Gemini konteksti-caching'u koos konkreetsete latentsuse ja kulu vähenemistega kasutusjuhtumi kohta (pikkade dokumentide chat, few-shot, multi-turn). Cache-write lisatasu vs cache-read soodustuse lahtimõtestamine on täpselt see, mida artikkel eeldab, kui ta räägib sellest, millal caching ennast ära tasub.

LiveOverflow. Käib läbi tegeliku sügava kaitse mängukava — taint-analüüs LLM-i väljundil, oodatavate väljundvormide piiramine, kasutaja isoleerimine, few-shot tellingud, fine-tuning, temperatuur 0 determineerituse jaoks, kriitiliste radade liiasus. See vastab artikli kaitsestäki sektsioonile peaaegu punkt punktilt.

LiveOverflow. Raamib prompt injectioni klassikalise injection-rünnakuna süsteemide vastu, mis segavad juhiseid ja usaldamatuid andmeid — koos konkreetse sisu-modereerimise näitega, kus ründaja süüdistab süütut kasutajat. Mõtteline nihe "mudel on sihtmärk" → "rakendus on sihtmärk" on täpselt see käik, millega artikkel avab.

Fireship. Selgeim lühike selgitus YouTube'is ekraanipilt–tegevus–ekraanipilt silmusest, sealhulgas ausad vigade režiimid (Claude rändab Yellowstone'i vaatama, tokeni põletamine, sammu-kaupa latentsus). Fireship on tahtlikult kerge produktsiooni-detailides — loe selleks artiklit — aga see jätab sulle õige intuitsiooni selle kohta, miks need süsteemid on kallid ja haprad enne, kui ühele oma stäki annad.

Adam Lucek. Pikem implementatsiooni-läbikäik kognitiivteadusest inspireeritud kategooriate kaudu — episoodiline, semantiline, töötav, protseduuriline — agendis koodiga ühendatud. Tasub vaadata pärast LangChaini kontseptuaalset videot, kui tahad arvamuserikkamat mõttemudelit ja töötavat näidet, millest kopeerida.

LangChain. Lühike, ilma koodita läbikäik lühi-vs-pikaajalisest jaotusest, kolmest kujust, milleks pikaajaline mälu kipub jagunema (juhised, profiil, objektide nimekiri), ja kuum-rada-versus-taust kompromissist, millal kirjutada. Artikli mälu-arhitektuuri sektsioon eeldab täpselt seda taksonoomiat.

LangChain. Lance Martini raamistik — write, select, compress, isolate — koos konkreetsete näidetega, millal kokku võtta tegevuste ajalugu, millal olekut failidesse maha laadida ja millal käivitada alam-agente puhtalt vanema konteksti kaitsmiseks. Kaardistub peaaegu otse artikli sektsioonile 1M-tokeniliste akende haldamisest praktikas.

Chroma. Kelly Hong käib läbi Chroma uuringu 18 mudeli kohta — miks needle-in-haystack tulemused on eksitavad, kuidas jõudlus halveneb mitmetähenduslikkuse ja häirivate elementidega, miks isegi lihtne stringi-kordamise ülesanne degradeerub pärast 500 tokenit. Lühike, tõenduspõhine ja täpselt see argument, mille artikkel sul tõsiselt võtta tahab enne inseneri-käikude juurde jõudmist.

aiwithbrandon. Sama tüüpi ehitus, aga CrewAI roll-eesmärk-taustalugu stiilis — agendid kui tiimi liikmed, ülesanded kui tarned, raamistik peidab täitmissilmuse. Vaata see kohe pärast LangGraphi kursust; kontrast selles, kui palju raamistik su eest otsustab, on täpselt see, mida artikkel sul kaaluda palub.

freeCodeCamp.org. Pikk koos-koodimisega ehitus LangGraphi olekugraafide, sõlmede, servade, tingimusliku marsruutimise, checkpointide ja tööriistakasutusega. Lõpuks on sul tüpiseeritud-oleku, "iga üleminek on selgesõnaline" mudeli kohta piisav tunnetus, et artikli võrdlus CrewAI-ga ja otsese-API koodiga lakkab olemast abstraktne.

Anthropic. Kolm Anthropicu inseneri käivad läbi kõige tavalisemad lõksud, mida nad näevad — agendid, mis ei tea, millal peatuda, üle-promptimine süsteemi promptis selle asemel et keskkonda parandada, mitme-agendi disainide kulu, mida tegelikult kellelegi vaja polnud. Kasulik kohe pärast Barry ettekannet; sa tunned ära samad mustrid teisest nurgast.

AI Engineer. Barry Zhang kolmest reeglist — ära ehita agenti, kui töövoog ajaks asja ära, hoia silmus nii lihtne kui võimalik ja "mõtle nagu su agent" (istu tema kontekstiaknas ja märka, et ta teeb otsuseid ekraanipiltide vahel pimedas). Lihtsuse argument ja "kas see ülesanne üldse agendit väärt on" kontrollnimekiri on täpselt distsipliin, mida artikkel palub.

Sebastian Raschka. Sebastian Raschka aeglasem läbikäik sellest, kus fine-tuning laiemas LLM-treeningu konveieris istub — instruction tuning, klassifikatsiooni fine-tuning, parameetri-tõhusad meetodid ja kompromissid, mida artikkel välja toob enne LoRA soovitamist. Hea kalibreerimine enne alustamist, eriti kui su tiim arutleb, kas fine-tuning on üldse õige samm.

freeCodeCamp.org. Pikk, teooria-siis-kood kursus, mis katab kvantiseerimise, LoRA, QLoRA ja täis-PEFTi Llama 2 ja Gemma peal — riistvaral, mis enamikul arendajatel päriselt olemas on. See on YouTube'is kõige lähemal "vaata üle õla kellelegi, kes seda teinud on" kogemusele ja sobib artikli "sul pole vaja klastrit" väitega koos konkreetsete VRAM-eelarvetega.

Prompt Engineering. Keskendunud läbikäik Microsofti GraphRAG-ist — entiteetide eraldamine, kogukondade kokkuvõtted, päringule-keskendunud kokkuvõte — seadistatud lokaalsel masinal koos kulu märkmetega. Vaata see artikli graph-RAG sektsiooni jaoks; kulu-arutelu on osa, mille enamik kirjutisi vahele jätab.

Cole Medin. Töötav agentse-RAG-pluss-teadmusgraafi ehitus, kus agent otsustab, millal teha vektorotsingut, millal lüüa Neo4j-i pihta ja millal mõlemat. See on YouTube'i puhtaim demonstratsioon "agent leidmise-planeerijana" mustrist, mida artikkel kirjeldab, koodis, mille saad päriselt alla tõmmata ja käivitada.

AI Engineer. LlamaIndexi CEO käib läbi lõhe "naiivse RAG-demo" ja päris konveieri vahel — small-to-big leidmine, alaküsimuste marsruutimine, hübriidotsing, hindamine. Tema slaidide kuju kaardistub peaaegu otse artikli konveieri-sektsioonidele; vaata kõigepealt, siis loe artiklit uuesti, tema diagrammid peas.