Aihe

Tuotantokäytön LLM-sovellukset

Suunnittele, julkaise, havainnoi ja operoi LLM-sovelluksia demovaiheen jälkeen.

17 sisältöä (12 artikkelia · 5 videota)

Aloita tästä

Muutama hyvä aloitussisältö ennen koko sisältövirran selaamista.

Lisää tässä aiheessa

8 min lukemista
Artikkeli

Hermes vai n8n: valitse tehtävän mukaan ja tunnista hybridin paikka

Päätöskehys Hermes Agentin ja n8n:n väliseen valintaan: deterministinen työnkulku pysyy n8n:ssä, kun taas bearer-todennettu Hermesin API-vaihe tai erillinen tapahtumawebhook hoitaa rajatun agenttityön.

Keskitaso
10 min lukemista
Artikkeli

Kokeellinen kahden DGX Sparkin, DeepSeek-V4-Flashin, n8n:n ja Hermeksen kokonaisuus

Näin arvioit yhteisön kokeellista kahden DGX Sparkin DeepSeek-V4-Flash-ratkaisua, jossa n8n hoitaa deterministiset vaiheet ja Hermes harkintaa vaativat tehtävät.

Edistynyt
69 minuuttia
Video

Agenttien kenttä – oppeja agenttien viemisestä tuotantoon

MLOps.community. Prosuksen tekoälyn VP ja tekoälyinsinööri raportoivat, mikä todella rikkoutui, kun he ottivat agentteja käyttöön ryhmän portfolioyrityksissä: kehoteinjektion pen-testaus ennen julkaisua, turvaton kirjoitus kun Jira-agentti tukehtui ihmisen lyhennelmiin, vanhentunut konteksti käsiteltynä siten, että agentit tuovat oletuksensa esiin, sekä varamenettelyn suunnittelu, joka yhdisti tai tappoi agentteja, kun ne lisäsivät kognitiivista kuormaa. Se lukee kuin artikkelin epäonnistumistaparekisteri toistettuna live-postmortemina.

Edistynyt
12 min lukemista
Artikkeli

Kustannusten optimointi päättelyssä: kehotteiden välimuisti, reititys ja tulosteen hallinta

Rakenna jäljitystietoihin perustuva päättelyn kustannusmalli, optimoi mitatusti suurimmat kustannuserät ja todista, että jokainen muutos säilyttää tehtävän laadun.

Edistynyt
13 min lukemista
Artikkeli

Hienosäätö vuonna 2026: näyttöön perustuva LoRA- ja QLoRA-koe

Päätä, onko parametritehokas hienosäätö perusteltua, hallitse aineistoa, määritä toistettava koe, vertaa erillisen testijoukon tuloksia ja turvallisuustuloksia sekä mittaa palvelun suorituskyky ennen käyttöönottoa.

Edistynyt
12 min lukemista
Artikkeli

Näin suunnittelet MCP-työkaluja, joita LLM:t käyttävät oikein

Useimmat näkemämme MCP-työkalut ovat teknisesti oikeita mutta käytännössä hyödyttömiä. LLM:t sivuuttavat ne, käyttävät niitä väärin tai kutsuvat niitä hyödyttömillä tavoilla. Näillä periaatteilla suunnittelet työkalut, jotka LLM:t omaksuvat luontevasti, ja korjaat yleiset virheet.

Edistynyt
12 min lukemista
Artikkeli

Muistin rakentaminen pitkäkestoisille agenteille

Pitkäkestoiset agentit tarvitsevat hallitun pysyväistallennuksen: tietojen alkuperän, vahvistamisen, asiakasympäristöjen eristyksen, hakutestit, säilytysajat, korjaukset ja todennettavan poiston.

Edistynyt
10 min lukemista
Artikkeli

Monen mallin orkestrointi: reititys kustannuksen, viiveen ja laadun perusteella

Eri tehtävien reitittäminen eri malleille voi vähentää kustannuksia tai viivettä. Vain työkuormakohtainen arviointi osoittaa, kannattaako lisääntynyt monimutkaisuus. Tässä artikkelissa käsitellään toimintamallit, mittarit ja virhetilanteet.

Keskitaso
12 min lukemista
Artikkeli

LLM-sovellusten havainnoitavuus: jäljitys, kustannukset, viive ja laadun ajautuminen

Täydennä tavallista havainnoitavuutta monivaiheisilla jäljityksillä, kohdistettavilla kustannuksilla, kehote- ja malliversioilla, arvioiduilla laatusignaaleilla, tietosuojatoimilla sekä työkuormasta johdetuilla hälytyksillä.

Edistynyt
14 min lukemista
Artikkeli

Kehoteinjektio ja LLM-tietoturva: uhkamallit ja puolustus syvyyteen

Kehoteinjektio on pysyvä LLM-tietoturvan riskiluokka, ei kehotteen kirjoitusvirhe. Tuotanto-opas uhkamalleihin, tietorajoihin, työkaluoikeuksiin, regressiotesteihin, valvontaan ja häiriötilanteisiin.

Edistynyt
12 min lukemista
Artikkeli

Kehotteiden, RAG:n ja hienosäädön valinta sekä niiden yhdistäminen

Kehotteet, RAG ja hienosäätö ovat kolme keskeistä vipua LLM:n mukauttamiseen. Kukin sopii joihinkin ongelmiin ja huonosti toisiin. Tässä saat valintakehyksen, kunkin realistiset kustannukset ja tuotantomallit, joissa niiden yhdistäminen toimii.

Edistynyt
9 minuuttia
Video

LangSmith 10 minuutissa

LangChain. LangChainin toinen perustaja esittelee LLM-jäljen, projektin ja aineiston sekä tokenkustannukset, viiveen, virheosuuden, palautteen koostamisen ja yksittäisen hakuvaiheen tarkastelun. Video havainnollistaa artikkelin ajatusta siitä, että jokainen kutsu on yksi jäljen osa ja rakenteinen jäljitys on tulostuslokeja hyödyllisempi.

Edistynyt
154 minuuttia
Video

LLM:ien instrumentointi ja evaluointi

Hamel Husain. Hamel Husain, Eugene Yan, Brian Bischof, Harrison Chase ja Shreya Shankar käsittelevät jäljitystä, lokianalyysiä, kielimallin käyttöä arvioijana sekä todelliseen tuotantodataan perustuvaa työnkulkua. Varaa videolle aikaa kuten pitkälle podcastille. Se syventää artikkelin kehotusta tarkastella todellisia jälkiä.

Edistynyt
77 minuuttia
Video

Tekoälyn kehotetekniikka: syväsukellus

Anthropic. Neljä Anthropicin kehotinsinööriä (tutkimus, alignment, applied, developer relations) puhuvat pitkään siitä, mitä he todella tekevät päivittäin — miten he muokkaavat kehotteita paineen alla, miten he ajattelevat ”rehellisyyttä” ohjeissa, milloin XML-telineet auttavat, milloin eivät. Artikkelin kerroksellinen malli kartoittuu selkeästi siihen, miten he kuvaavat työtä; tämä on paras tapa kuulla tuo ajattelumalli ääneen.

Edistynyt
25 minuuttia
Video

Kehotteiden ABC | Code w/ Claude

Anthropic. Anthropicin Applied AI -tiimin live-rakennussessio vakuutuskorvauskehotteesta — he aloittavat epämääräisellä ohjeella ja iteroivat joksikin, jonka kehittäjä todella toimittaisi, näyttäen artikkelin kuvaamat tarkistukset järjestelmä- ja kehittäjäkerroksille. Katso tämä ennen artikkelin tarkistuslistan uudelleenlukemista esimerkeistä, tuotosrakenteesta ja kieltäytymisen käsittelystä.

Edistynyt