2:37:05freeCodeCamp.org
Kursen behandlar kvantisering, LoRA, QLoRA och PEFT med Llama 2 och Gemma. Kursen visar VRAM-exempel för specifika konfigurationer. Artikeln kräver mätningar för vald modell och hårdvara; exemplen visar inte att varje lämplig uppgift kan klaras utan kluster.
Vad du bör få ut av detta: Använd kursen som exempel för att planera ett LoRA- eller QLoRA-experiment och mät själv resursbehov och resultat för vald konfiguration.
Titta på eller ha koll på först: Python och grundläggande vana vid ML-verktyg; kontrollera resurskraven för vald modell och hårdvara före experimentet.
Anteckning från AI Expert: Kursens basmodeller (Llama 2, Gemma) är exempel från sin tid. Använd metoderna som bakgrund och kontrollera modellstöd, biblioteksversioner, resursbehov och resultat för din konfiguration; direkt överförbarhet är inte garanterad.
