Oheisvideot

LLM-sovellusten havainnoitavuus: jäljitys, kustannukset, viive ja laadun ajautuminen – saatevideot

LLM-havainnoitavuutta käsitteleviä laadukkaita YouTube-videoita on vähän. Suuri osa sisällöstä on toimittajien esittelyjä, ja aiheeseen perehtyneiden ammattilaisten yleisöt ovat yleensä pieniä. Valitsimme selkeimmän tuote-esittelyn ja pisimmän asiantuntijakeskustelun, jotta näet samat jäljityskäsitteet sekä käytännön käyttöliittymässä että kokeneiden insinöörien tarkastelemana järjestelmäkokonaisuutena.

Päävalinta

9:21

LangSmith 10 minuutissa

LangChain

LangChainin toinen perustaja esittelee LLM-jäljen, projektin ja aineiston sekä tokenkustannukset, viiveen, virheosuuden, palautteen koostamisen ja yksittäisen hakuvaiheen tarkastelun. Video havainnollistaa artikkelin ajatusta siitä, että jokainen kutsu on yksi jäljen osa ja rakenteinen jäljitys on tulostuslokeja hyödyllisempi.

Mitä sinun pitäisi oppia tästä: Osaat navigoida jälkiä, projekteja ja datasettejä LangSmithissä ja lukea token-kustannuksen, viiveen, virheasteen ja span-kohtaisen yksityiskohdan.

Katso tai hallitse ensin: Perustuntemus LLM-API-kutsuista; sinun ei tarvitse olla LangChain-käyttäjä seurataksesi jälkikäsitteitä.

AI Expert -huomio: Kyseessä on toimittajan esittely. Keskity jäljen, projektin ja aineiston käsitteisiin myyntipuheen sijaan. Ajatusta jokaisesta kutsusta jäljen osana voi soveltaa mihin tahansa jäljitysjärjestelmään.

Avaa videosivu

Kannattaa katsoa myös

2:33:51

LLM:ien instrumentointi ja evaluointi

Hamel Husain

Hamel Husain, Eugene Yan, Brian Bischof, Harrison Chase ja Shreya Shankar käsittelevät jäljitystä, lokianalyysiä, kielimallin käyttöä arvioijana sekä todelliseen tuotantodataan perustuvaa työnkulkua. Varaa videolle aikaa kuten pitkälle podcastille. Se syventää artikkelin kehotusta tarkastella todellisia jälkiä.

Mitä sinun pitäisi oppia tästä: Yhdistä jäljitys, arviointi, palaute ja tuotantokatselmointi LLM-järjestelmien toimintasilmukaksi.

Katso tai hallitse ensin: Kokemus tuotantokäytössä olevista LLM-järjestelmistä. Video olettaa, että sinulla on todellisia jälkiä ja lokeja analysoitavaksi.

AI Expert -huomio: Video on mukana pienestä katselumäärästä ja kahden ja puolen tunnin kestosta huolimatta, koska vastaavaa pitkää käsittelyä jälkiin perustuvasta arvioinnista ei ole helposti saatavilla.

Avaa videosivu