2:37:05freeCodeCamp.org
講座はLlama 2とGemmaを用いて量子化、LoRA、QLoRA、PEFTを扱います。講座は特定の構成でのVRAM使用量の例を示します。記事は選んだモデルとハードウェアでの測定を求めており、これらの例はすべての適切なタスクにクラスターが不要だと証明するものではありません。
このセクションから得られるもの: 講座をLoRAまたはQLoRA実験の計画例として使い、選んだ構成の資源要件と結果を自分で測定します。
視聴または事前に知っておくべきもの: PythonとMLツールの基礎知識が必要です。実験前に、選んだモデルとハードウェア構成の資源要件を確認してください。
AI Expertの注記: 講座のベースモデル(Llama 2、Gemma)は当時の例です。手法を参考にしつつ、モデルの対応状況、ライブラリのバージョン、資源要件、選んだ構成の結果を確認してください。そのまま移植できる保証はありません。
