2:37:05freeCodeCamp.org
Kurssi käsittelee kvantisointia, LoRA:a, QLoRA:a ja PEFT:iä Llama 2:n ja Gemman avulla. Kurssi näyttää kokoonpanokohtaisia VRAM-esimerkkejä. Artikkeli edellyttää valitun mallin ja laitteiston mittauksia; esimerkit eivät osoita, että kaikki soveltuvat tehtävät onnistuvat ilman klusteria.
Mitä sinun pitäisi oppia tästä: Käytä kurssia LoRA- tai QLoRA-kokeen suunnittelun esimerkkinä ja mittaa valitun kokoonpanon resurssitarve ja tulokset itse.
Katso tai hallitse ensin: Pythonin ja ML-työkalujen perustuntemus; tarkista valitun mallin ja laitteiston resurssivaatimukset ennen koetta.
AI Expert -huomio: Kurssin perusmallit (Llama 2, Gemma) ovat oman aikansa esimerkkejä. Käytä menetelmiä taustana ja tarkista mallituki, kirjastoversiot, resurssitarve ja tulokset valitussa kokoonpanossa; suoraa siirrettävyyttä ei taata.
