2:37:05freeCodeCamp.org
Le cours présente la quantification, LoRA, QLoRA et PEFT avec Llama 2 et Gemma. Le cours donne des exemples de consommation de VRAM propres à certaines configurations. L’article exige des mesures pour le modèle et le matériel choisis ; ces exemples ne prouvent pas que toute tâche adaptée peut se passer de cluster.
Ce que vous en retirerez: Utiliser le cours comme exemple pour préparer une expérimentation LoRA ou QLoRA, puis mesurer les ressources et les résultats de la configuration choisie.
À voir ou à connaître au préalable: Connaître Python et les outils élémentaires d’apprentissage automatique ; vérifiez les ressources nécessaires au modèle et au matériel choisis avant l’expérience.
Note d’AI Expert: Les modèles de base du cours (Llama 2, Gemma) sont des exemples datés. Utilisez les méthodes comme contexte et vérifiez la prise en charge du modèle, les versions des bibliothèques, les ressources et les résultats de votre configuration ; leur transfert direct n’est pas garanti.
