2:37:05LLM模型微调:生成式AI课程打开视频页面
freeCodeCamp.org
课程以Llama 2和Gemma为例介绍量化、LoRA、QLoRA和PEFT。课程提供特定配置的VRAM用量示例。文章要求在所选模型和硬件上进行测量;这些示例不能证明每项适合的任务都不需要集群。
您应该从中获得什么: 将课程作为规划LoRA或QLoRA实验的示例,并自行测量所选配置的资源需求与结果。
先观看或了解: 需要Python及机器学习工具的基础知识;实验前请检查所选模型和硬件配置的资源要求。
AI Expert 注释: 课程的基础模型(Llama 2、Gemma)是当时的例子。请将方法作为参考,核查所选配置的模型支持、库版本、资源需求和结果;不能保证直接迁移。
