Context Rot: kuidas sisendtokenite kasv mõjutab LLM-i jõudlust
Chroma. Kelly Hong käib läbi Chroma uuringu 18 mudeli kohta — miks needle-in-haystack tulemused on eksitavad, kuidas jõudlus halveneb mitmetähenduslikkuse ja häirivate elementidega, miks isegi lihtne stringi-kordamise ülesanne degradeerub pärast 500 tokenit. Lühike, tõenduspõhine ja täpselt see argument, mille artikkel sul tõsiselt võtta tahab enne inseneri-käikude juurde jõudmist.
AI Experti märkus
Mudelite nimed, hinnad ja võimekused muutuvad kiiresti. Kasuta videot otsustusmustri mõistmiseks ning kontrolli praegust mudelikäitumist enne kasutuselevõttu.
Mida sellest videost kaasa võtta
Saad tehnilise mustri teemal "Kontekstiinseneeria" ning oskad hinnata riske, piire ja järgmist sammu.
Järgmisena vaata
Jätka sama õpiteekonda järgmiste hoolikalt valitud kaasvideotega.
44 minutitAju-laadse mälu ehitamine AI-le | LLM-agendi mälusüsteemid
Saad tehnilise mustri teemal "Mälu ehitamine kauakestvatele agentidele" ning oskad hinnata riske, piire ja järgmist sammu.
Vaata järgmist
5 minutitClaude on mu arvuti üle võtnud...
Saad tehnilise mustri teemal "Computer use ja brauseri-agendid produktsioonis" ning oskad hinnata riske, piire ja järgmist sammu.
Vaata järgmist
17 minutitLLM-i kaitsmine - Prompt Injection
Saad tehnilise mustri teemal "Prompt injection ja LLM-turvalisus" ning oskad hinnata riske, piire ja järgmist sammu.
Vaata järgmistSeotud videod
Mine sügavamale
Hoolikalt valitud välised kursused, mis aitavad sellesse teemasse sügavamalt minna.
DeepLearning.AIChatGPT Prompt Engineering for Developers
Üheksakümmend minutit annab aasta jagu intuitsiooni. Kui kirjutad koodi, mis kutsub LLM-i — või oled selleks valmis — on see kõige tõhusam kursus internetis, mis täidab tühimiku "mängin ChatGPT-ga" ja "saadan LLM-i kutsuva funktsionaalsuse tootmisse" vahel.
Coursera · Vanderbilt UniversityPrompt Engineering for ChatGPT
Hea pikem täiendus DeepLearning.AI lühikursusele, eriti neile, kes ei kirjuta koodi. Dr. White õpetab juhendamist korduvkasutatavate mustritena, mitte juhuslike nippidena, nii et hakkad LLM-iga töötama süsteemselt.