Aihe

Mallien ja työkalujen valinta

Valitse sopiva vaihtoehto: ChatGPT, Claude, Gemini, Copilot, päättelymalli tai pilvipalvelussa tai paikallisesti suoritettava inferenssi.

22 sisältöä (9 artikkelia · 13 videota)

Aloita tästä

Muutama hyvä aloitussisältö ennen koko sisältövirran selaamista.

Lisää tässä aiheessa

12 min lukemista
Artikkeli

Kustannusten optimointi päättelyssä: kehotteiden välimuisti, reititys ja tulosteen hallinta

Rakenna jäljitystietoihin perustuva päättelyn kustannusmalli, optimoi mitatusti suurimmat kustannuserät ja todista, että jokainen muutos säilyttää tehtävän laadun.

Edistynyt
13 min lukemista
Artikkeli

Hienosäätö vuonna 2026: näyttöön perustuva LoRA- ja QLoRA-koe

Päätä, onko parametritehokas hienosäätö perusteltua, hallitse aineistoa, määritä toistettava koe, vertaa erillisen testijoukon tuloksia ja turvallisuustuloksia sekä mittaa palvelun suorituskyky ennen käyttöönottoa.

Edistynyt
6 min lukemista
Artikkeli

Maksuton vai maksullinen ChatGPT: mitä päivityksellä oikeasti saa

Selkokielinen vertailu maksuttomasta ChatGPT:stä, ChatGPT Plusista ja ChatGPT Prosta — mikä päivityksessä muuttuu ja mistä tiedät, tarvitsetko sitä.

Uusi tekoälyn maailmassa
10 min lukemista
Artikkeli

Päättelymallien valinta ja kehottaminen

Päättelyasetukset vaikuttavat laatuun, viiveeseen, kustannuksiin ja joskus myös kehotteiden toimintaan. Käytännön opas niiden valintaan arviointitulosten eikä uskomusten perusteella.

Keskitaso
12 min lukemista
Artikkeli

Kehotteiden, RAG:n ja hienosäädön valinta sekä niiden yhdistäminen

Kehotteet, RAG ja hienosäätö ovat kolme keskeistä vipua LLM:n mukauttamiseen. Kukin sopii joihinkin ongelmiin ja huonosti toisiin. Tässä saat valintakehyksen, kunkin realistiset kustannukset ja tuotantomallit, joissa niiden yhdistäminen toimii.

Edistynyt
11 min lukemista
Artikkeli

Itseisännöity vai hallinnoitu päättely: auditoitava kannattavuusmalli

Missä mittakaavassa itseisännöinti voittaa API-kutsut? Käy läpi todellinen laskelma, käytännön vastuut ja ne piirteet, jotka ratkaisevat, sopiiko tiimille itseisännöinti vai hallinnoitu päättely.

Edistynyt
19 minuuttia
Video

Onko tämä RAG:n loppu? Anthropicin UUSI prompt caching

Prompt Engineering. Käy läpi Anthropicin prompt cachingin Geminiin context cachingiin verrattuna konkreettisilla viive- ja kustannusvähennyksillä käyttötapauksittain (pitkän asiakirjan chat, few-shot, monivuoro). Cache-write-lisämaksun vs. cache-read-alennuksen erittely on tasan se, mitä artikkeli olettaa puhuessaan, milloin välimuisti maksaa itsensä takaisin.

Edistynyt
56 minuuttia
Video

Build Hour: kehotteiden välimuisti (prompt caching)

OpenAI. OpenAI:n oma Build Hour kehotteiden välimuistista — 1024 tokenin kynnys, etuliitteen vakauden vaatimus, jyrkät audio-välimuistialennukset realtimelle (tarkista tarkka hinta nykyiseltä hinnoittelusivulta), time-to-first-token -vaikutukset pitkillä syötteillä. Hyödyllinen, kun mitoitat suunnittelutyötä osuaksesi välimuistiin luotettavasti tuotantokehotteillasi.

Edistynyt
157 minuuttia
Video

LLM-mallien fine-tuning – generatiivisen tekoälyn kurssi

freeCodeCamp.org. Kurssi käsittelee kvantisointia, LoRA:a, QLoRA:a ja PEFT:iä Llama 2:n ja Gemman avulla. Kurssi näyttää kokoonpanokohtaisia VRAM-esimerkkejä. Artikkeli edellyttää valitun mallin ja laitteiston mittauksia; esimerkit eivät osoita, että kaikki soveltuvat tehtävät onnistuvat ilman klusteria.

Edistynyt
59 minuuttia
Video

LLM:n kehittäminen: rakentaminen, koulutus, fine-tuning

Sebastian Raschka. Raschkan yleiskatsaus sijoittaa hienosäädön mallin koulutusprosessiin. Artikkeli perustelee LoRA-kokeen tehtävässä mitatulla puutteella suhteessa perusratkaisuun ja edellyttää resurssien tarkistamista sekä sovittimen arviointia ennen julkaisua.

Edistynyt
15 minuuttia
Video

Kannattaako ChatGPT Plus? Päivitetty arvioni vuodelle 2025

Ryan Doser. Ryan käy läpi jokaisen ominaisuuden, joka on oikeasti lukittu 20 dollarin tason taakse — käyttökiintiöt, edistynyt äänitila, kuva- ja Sora-rajat, custom GPT:t, päättelymallitaso — ja vertaa niitä nykyisiin maksuttomiin vaihtoehtoihin kuten Claude, Gemini ja Perplexity. Katselumäärä on matalampi, koska aihe on kapea, mutta tämä on selkein nykyinen rinnakkaisvertailu, joka ei sulaudu hypetykseen — siksi valitsimme sen äänekkäämpien ”Plus muutti elämäni” -videoiden sijaan.

Uusi tekoälyn maailmassa
19 minuuttia
Video

Jokainen tekoälymalli selitettynä

Tina Huang. Video jäsentää mallimaisemaa tasoittain: lippulaivamalleihin, kevyisiin malleihin, keskitason malleihin ja erikoistuneisiin malleihin. Konkreettiset esimerkit auttavat arvioimaan, mihin kukin taso sopii. Huang käsittelee kustannuksen ja kyvykkyyden suhdetta ilman, että päätös perustuu vain vertailutulosten hypetykseen.

Keskitaso
9 minuuttia
Video

RouteLLM saavuttaa 90 % GPT-4o:n laadusta JA on 80 % HALVEMPI

Matthew Berman. Video käy läpi LMSYS RouteLLM -artikkelin ja koodin. Pieni luokittelija valitsee vahvan ja heikomman mallin välillä. Videolla käsitellyssä tutkimusasetelmassa reititin saavutti noin 95 % vahvan mallin laadusta selvästi pienemmin kustannuksin. Katselumäärä jää tavanomaisen 100 000 katselukerran kynnyksen alle, mutta video näyttää konkreettisen mallireitityksen pelkän mallivertailun sijasta.

Keskitaso
9 minuuttia
Video

RAG vs. fine-tuning

IBM Technology. Tiukempi fokus kahteen tekniikkaan, jotka tiimit sekoittavat useimmin. Menee syvemmälle datan tuoreuteen, lähdeattribuutioon ja inferenssiajan nopeusargumenttiin hienosäädölle. Kannattaa katsoa, jos yrität erityisesti argumentoida tarpeetonta hienosäätöprojektia vastaan.

Edistynyt
13 minuuttia
Video

RAG vs fine-tuning vs kehotetekniikka: tekoälymallien optimointi

IBM Technology. Selkeä valkotaululäpikäynti kaikista kolmesta tekniikasta kustannuksineen — haun viive, koulutuksen laskenta ja katastrofaalinen unohtaminen, pelkkien kehotteiden ratkaisujen rajat — sekä yhdistelmät, jotka todella toimivat tuotannossa. Päätösesimerkki oikeudellisesta tekoälyjärjestelmästä, joka käyttää kaikkia kolmea, on lähes tasan artikkelin ”milloin yhdistää” -argumentti.

Edistynyt
131 minuuttia
Video

Miten käytän LLM:iä

Andrej Karpathy. Käytä videoiden malli- ja tilaustasoesimerkkejä artikkelin hallitun vertailun taustana. Testaa soveltuvia vaihtoehtoja omalla tehtävälläsi; tuotenimet ja tilaustasot ovat oman aikansa esimerkkejä.

Aloittelija
17 minuuttia
Video

Uusi, älykkäin tekoäly: Claude 3 – testattu Gemini 1.5:tä ja GPT-4:ää vastaan

AI Explained. Vanhempi kuin artikkeli (maaliskuu 2024), mutta hyödyllinen on metodologia: yksi huolellinen arvioija ajaa samat vaikeat tehtävät — OCR, theory of mind, ohjeiden noudattaminen, matematiikka — kolmen frontier-mallin läpi rinnakkain ja näyttää tarkalleen, missä kukin murtuu. Mallinimet ovat vanhentuneita, mallien vertailukehys ei.

Aloittelija
32 minuuttia
Video

Nopea LLM-palvelu vLLM:llä ja PagedAttentionilla

Anyscale. Esitys käy läpi vLLM-tutkimuksessa raportoidun muistin hukkakäytön, PagedAttentionin käyttöjärjestelmistä lainaaman sivutusidean ja jatkuvan eräkäsittelyn vaikutuksen läpäisykykyyn. Videon luvut koskevat sen omia vertailuasetelmia, mutta mekanismit auttavat ymmärtämään artikkelin käyttöastelaskelmaa.

Edistynyt
19 minuuttia
Video

Jokainen tekoälymalli selitettynä

Tina Huang. 19 minuutin malliperhe-esittely taustoittaa vertailua tarkistettavalla tehtävällä. Tarkista valitun työkalun nykyiset mallivaihtoehdot; artikkeli ei edellytä yhden tuotteen käyttämistä kuukauden ajan.

Uusi tekoälyn maailmassa