Edasijõudnud AI-juhised

Kui hakkad AI-d tõsiselt kasutama, kirjutad samu prompte ikka ja jälle. Praktiline süsteem prompt-teegi ehitamiseks, korrastamiseks ja jagamiseks — mida talletada, kuidas versioonida ja millist infrastruktuuri kasutada.

Korduvkasutatavate prompt-teekide ehitamine: katketest jagatud mallideni

Muudad üksikud promptid jagatud, versioonitud mallideks, millel on omanikud, näited ja kvaliteedikontroll.

10 min lugemist

Arutlevad mudelid ei ole kiired mudelid lisasammudega. Nad tasustavad teistsugust promptimist, eiravad mõnda tavapärast mustrit ja neil on omad lõksud. Praktiline juhend nendega hästi töötamiseks.

Prompt-inseneeria arutlevate mudelite jaoks (o3, R1, Claude extended thinking)

Hinda lahendusmustrit, tõrkeviise ja kaitsepiirdeid enne päris töövoo ehitamist.

12 min lugemist

1M-tokenilised kontekstiaknad on olemas, aga kvaliteet halveneb tunduvalt enne seda piiri. Konteksti-insenertöö on distsipliin kontekstiakende efektiivseks kasutamiseks — mida kaasata, mida kokku võtta, mida värskelt välja võtta, ning mustrid, mis hoiavad kvaliteedi kontekstiga kasvades kõrgel.

Konteksti-insenertöö: 1M-tokeniliste akende haldamine ilma konteksti-mädanikuta

Hinda lahendusmustrit, tõrkeviise ja kaitsepiirdeid enne päris töövoo ehitamist.

Veel selles teemas

12 min lugemist

Prompting, RAG ja peenhäälestus on kolm suurt hooba LLM-ide kohandamiseks sinu probleemile. Iga sobib mõnele probleemile ja ei sobi teistele. Raamistik valimiseks, iga reaalsed kulud ja toodangumustrid, kus nende kombineerimine hiilgab.

Valik promptingu, RAG-i ja peenhäälestuse vahel (ja millal kombineerida)

Kasuta artiklit otsustamise kontekstina: kasutuselevõtt, risk, juhtimine või investeering.

12 min lugemist

Tootmispromptid ei ole 'ütle AI-le, mida sa tahad'. Need on kihiline süsteem — stabiilsed juhised, dünaamiline kontekst, päringupõhised muutujad — mida hallatakse nagu koodi. Arhitektuur, mustrid ja distsipliin, mis eristavad tootmist prototüübist.

Tootmis-promptide kavandamine: süsteemi, arendaja ja kasutaja kihid

Eraldad süsteemi, arendaja ja kasutaja juhised ning testid tootmisprompte versioonitud süsteemikomponentidena.

13 min lugemist

Struktureeritud väljundid ja funktsioonikutsumine on sild 'LLM-ist, mis genereerib teksti' kuni 'süsteemini, mis teeb tööd'. Tootmises on mustrid, mis loevad, skeemide, veakäsitluse, idempotentsuse ja graatsilise degradeerumise kohta — mitte ainult JSON-režiim.

Struktureeritud väljundid ja funktsioonikutsumine: tootmismustrid

Hinda lahendusmustrit, tõrkeviise ja kaitsepiirdeid enne päris töövoo ehitamist.

10 min lugemist

Kolm arutlustehnikat, mis päriselt parandavad AI väljundit raskete probleemide juures — ja nende kasutamise kulu-tulu matemaatika. Konkreetsete prompttide, kõrvuti võrdluste ja moodsate arutlevate mudelite poolt sissetoodud lõksudega.

Chain-of-thought, enesekriitika, tree-of-thoughts — millal kumba kasutada

Hinda lahendusmustrit, tõrkeviise ja kaitsepiirdeid enne päris töövoo ehitamist.

7 min lugemist

Milline mudel millise ülesande jaoks valida. GPT, Claude, Gemini, mõtlevad mudelid ja avatud kaaludega valikud — sorteeritud selle järgi, milles nad tegelikult parimad on, koos lihtsate otsustusreeglitega.

Õige mudeli valimine töö jaoks: 2026. aasta otsustusspikker

Muuda töövoog väikeseks praktiliseks katseks ja lisa selge kvaliteedikontroll.

Algaja

22 minutit

LangChain. Lance Martini raamistik — write, select, compress, isolate — koos konkreetsete näidetega, millal kokku võtta tegevuste ajalugu, millal olekut failidesse maha laadida ja millal käivitada alam-agente puhtalt vanema konteksti kaitsmiseks. Kaardistub peaaegu otse artikli sektsioonile 1M-tokeniliste akende haldamisest praktikas.

Kontekstiinseneeria agentidele

8 minutit

Chroma. Kelly Hong käib läbi Chroma uuringu 18 mudeli kohta — miks needle-in-haystack tulemused on eksitavad, kuidas jõudlus halveneb mitmetähenduslikkuse ja häirivate elementidega, miks isegi lihtne stringi-kordamise ülesanne degradeerub pärast 500 tokenit. Lühike, tõenduspõhine ja täpselt see argument, mille artikkel sul tõsiselt võtta tahab enne inseneri-käikude juurde jõudmist.

Context Rot: kuidas sisendtokenite kasv mõjutab LLM-i jõudlust

9 minutit

IBM Technology. Tihedam fookus kahele tehnikale, mida tiimid kõige sagedamini segi ajavad. Läheb sügavamale andmete värskuse, allika atributsiooni ja inference-aja kiiruse argumendi osas fine-tuningu poolt. Vaatamist väärt, kui üritad spetsiifiliselt argumenteerida tarbetu fine-tune projekti vastu.

RAG vs Fine Tuning

13 minutit

IBM Technology. Selge tahvli-läbikäik kõigist kolmest tehnikast koos nende vastavate kuludega — leidmise latentsus, treenimise arvutusvõimsus ja katastroofiline unustamine, ainult-promptiga lahenduste piirid — ja kombinatsioonid, mis produktsioonis päriselt mõtet annavad. Lõpetav näide juriidilisest AI-süsteemist, mis kasutab kõiki kolme, on peaaegu täpselt artikli "millal kombineerida" argument.

RAG vs Fine-Tuning vs prompti inseneeria: AI-mudelite optimeerimine

25 minutit

Anthropic. Live-ehituse sessioon Anthropicu Applied AI tiimilt kindlustusnõude prompti peal — nad alustavad ähmasest juhisest ja itereerivad millekski, mida arendaja päriselt välja saadaks, näidates seda tüüpi parandusi, mida artikkel süsteemi- ja arendajakihtide jaoks kirjeldab. Vaata see enne artikli näidete, väljundstruktuuri ja keeldumise käsitlemise kontrollnimekirja ülelugemist ära.

Promptide ABC | Code w/ Claude

77 minutit

Anthropic. Neli Anthropicu prompti-inseneri (research, alignment, applied, developer relations) räägivad pikalt sellest, mida nad päriselt iga päev teevad — kuidas nad surve all prompte toimetavad, kuidas nad mõtlevad "aususest" juhistes, millal XML-tellingud aitavad, millal ei. Artikli kihiline mudel kaardistub puhtalt sellele, kuidas nad tööd kirjeldavad; see on parim viis kuulda seda mõttemudelit valjusti.

AI prompti inseneeria: sügav sukeldumine

41 minutit

OpenAI. Käib läbi `strict: true`, erinevus vanast JSON-režiimist, keeldumise käsitlemine ja kuidas function calling ja response-format skeemid kokku sobivad. Kasulik just sellepärast, et see kirjeldab lepingut, mida API sulle annab, ja just selle peale on artikli produktsiooni-mustrid ehitatud.

OpenAI DevDay 2024 | Struktureeritud väljundid usaldusväärsete rakenduste jaoks

18 minutit

AI Engineer. Ettekanne, mis kristalliseeris moodsa "defineeri Pydantic-mudel, anna see LLM-ile, lase valideerimisel ülejäänut teha" mustri, koos konkreetsete näidetega pesastatud objektidest, valideerijatest, mis tabavad hallutsineeritud URL-e, ja Chain-of-Thoughtist kui tüpiseeritud väljast. Vaata see enne artikli valideerijate sektsiooni ülelugemist ära ja sa tunned ära, kust selle kordamise- ja keeldumisreeglid tulevad.

Pydantic on kõik, mida vaja: Jason Liu

3 minutit

OpenAI. Kolm minutit o1 tiimiga, mis kirjeldab momenti, kus mudel hakkas RL-treeningu ajal oma arutlust kahtluse alla seadma. Kasulik esmase allikana artikli väitele, et mõtteahel toimub nüüd mudelis sees, mitte sinu promptis.

OpenAI o1 ehitamine

28 minutit

AI Explained. Selgeim haibivaba selgitus sellest, miks o1 (ja sellega koos o3, R1, Claude extended thinking) on treenitud korrektsuseks, mitte järgmise tokeni ennustamiseks, ja mida see tähendab selles, kuidas sa sellega räägid. Vaata see ära ja artikli nõuanne "lõpeta think step by step ütlemine, hakka spetsi kirjutama" ei tundu enam meelevaldne.

o1 - mis toimub? Miks o1 on 3. paradigma mudelist + 10 asja, mida sa võibolla ei tea

29 minutit

Yannic Kilcher. Yannic käib läbi originaalse Princetoni/DeepMindi Tree-of-Thoughtsi artikli — generate-score-prune-backtrack silmus, miks see tõstab Game of 24 täpsust 4%-lt 74%-le ja kus tehnika lakkab oma 10× tokeni kulu väärt olemast. Kasulik just sellepärast, et see sunnib sind nägema ToT-d otsingualgoritmina, mitte maagilise prompti eesliitena.

Tree of Thoughts: kaalutletud probleemide lahendamine suurte keelemudelitega (täisartikli ülevaade)

25 minutit

Anthropic. Kaks Anthropicu Applied AI tiimi liiget ehitavad päris-elu prompti live üles, lisades kihte rolli, struktureeritud sektsioone ja selgesõnalisi mõtlemissamme. See on YouTube'i kõige usaldusväärsem "kuidas kasutada chain-of-thoughti seda rituaaliks muutmata" demo ja see teeb artikli "lõpeta Let's think step by step kõikjale kleepimine" mõtte konkreetseks.

Promptide ABC

10 minutit

Lawton Learns. Konkreetne, kopeerides-kleepitav C.R.A.F.T. meta-prompt (Context, Role, Action, Format, Target audience), millele artikkel oma mõttes viitab. Kasulik esimese kandena uues raamatukogus — prompt, mille töö on genereerida hästi struktureeritud prompte kõigile teistele.

Parim ChatGPT prompt, mille olen kunagi loonud - veetsin 2 kuud seda promptide kirjutamise prompti viimistledes

20 minutit

Tina Huang. Tina surub Google'i täispika promptimise kursuse kahte asja, mida raamatukogu päriselt salvestab: viieosaline task/context/references/evaluate/iterate raamistik ja neli nimetatud iteratsiooni-käiku prompti aja jooksul tihendamiseks. Ta käib läbi ka agent- ja chain-of-thought mustrid, nii et sama video kahekordistub sisselasusena keerukamatele mallidele, mida raamatukokku hiljem lisad.

Google'i 9-tunnine AI prompti inseneeria kursus 20 minutiga