2:37:05freeCodeCamp.org
Курс разбирает квантизацию, LoRA, QLoRA и PEFT на примерах Llama 2 и Gemma. Курс даёт примеры расхода VRAM для конкретных конфигураций. Статья требует измерений на выбранной модели и оборудовании; эти примеры не доказывают, что для любой подходящей задачи можно обойтись без кластера.
Что вынести из этого видео: Использовать курс как пример для планирования LoRA- или QLoRA-эксперимента и измерить ресурсы и результаты выбранной конфигурации.
Заметка AI Expert: Названия моделей, цены и возможности быстро меняются. Используйте видео для понимания принципа выбора, затем проверьте актуальное поведение модели перед внедрением.
