Kontekstisuunnittelu: testaa pitkän kontekstin järjestelmät arvailematta — saatevideot

Chroma

Kelly Hong käy läpi Chroman tutkimuksen 18 mallista — miksi needle-in-haystack -pisteet johtavat harhaan, miten suorituskyky heikkenee epäselvyyden ja häiriötekijöiden kanssa, miksi jopa yksinkertaiset merkkijonotoistot heikkenevät 500 tokenin jälkeen. Lyhyt, näyttöön perustuva ja tasan tapaus, jonka artikkeli tarvitsee sinun ottavan vakavasti ennen suunnitteluliikkeitä.

Mitä sinun pitäisi oppia tästä: Ymmärrä, miten pitkä konteksti voi epäonnistua epäselvyyden ja häiriötekijöiden alla, sitten suunnittele testit tuon riskin ympärille.

Katso tai hallitse ensin: Ei mitään LLM:n perussanaston lisäksi — se on lyhyt tutkimuspuhe.

LangChain

Lance Martinin kehys — kirjoita, valitse, tiivistä, eristä — konkreettisilla esimerkeillä siitä, milloin tiivistää toimintohistoriaa, milloin siirtää tila tiedostoihin ja milloin käynnistää aliagentteja pelkästään vanhemman kontekstin suojaamiseksi. Kartoittuu lähes suoraan artikkelin osioon miljoonan tokenin ikkunoiden hallinnasta käytännössä.

Mitä sinun pitäisi oppia tästä: Sovella kirjoita-, valitse-, tiivistä- ja eristä-malleja agentin kontekstin hallintaan tarkoituksella.

Katso tai hallitse ensin: Kokemusta agenttien rakentamisesta tai operoinnista pitkäkestoisella kontekstilla.