2:37:05freeCodeCamp.org
Pitkä teoria-sitten-koodi -kurssi, joka kattaa kvantisoinnin, LoRA:n, QLoRA:n ja täyden PEFT:n Llama 2:lla ja Gemmalla — laitteistolla, jota useimmilla kehittäjillä jo on. Lähin asia ”seuraa jotakuta, joka on tehnyt tämän” -kokemukseen YouTubessa ja linjassa artikkelin ”et tarvitse klusteria” -väitteen kanssa konkreettisilla VRAM-budjeteilla.
Mitä sinun pitäisi oppia tästä: Pystyt ajamaan kvantisointi-, LoRA- ja QLoRA-hienosäätöjä alusta loppuun laitteistolla, jota useimmilla kehittäjillä jo on.
Katso tai hallitse ensin: Python plus perus ML-työkalumukavuus; kurssi tähtää laitteistoon, jota useimmilla kehittäjillä jo on.
AI Expert -huomio: Mallinimet, hinnoittelu ja kyvyt muuttuvat nopeasti. Kurssin perusmallit (Llama 2, Gemma) ovat vanhentuneita, mutta sen opettamat LoRA-, QLoRA- ja kvantisointitekniikat siirtyvät suoraan nykyisiin avoimen painon malleihin. Käytä tätä päätösmalliin, sitten varmista nykyinen mallin käyttäytyminen ennen käyttöönottoa.
