
freeCodeCamp.org
Ein ausführlicher Kurs, der von der Theorie zum Code führt und Quantisierung, LoRA, QLoRA sowie vollständiges PEFT mit Llama 2 und Gemma auf Hardware behandelt, die vielen Entwicklern zur Verfügung steht. Auf YouTube kommt er der Erfahrung, einer fachkundigen Person bei der Arbeit über die Schulter zu schauen, am nächsten. Mit konkreten VRAM-Budgets untermauert er die Aussage des Artikels, dass kein Cluster erforderlich ist.
Was Sie aus diesem Video mitnehmen sollten: Sie können Quantisierung, LoRA- und QLoRA-Feinabstimmungen von Anfang bis Ende auf Hardware durchführen, die die meisten Entwickler bereits besitzen.
Das sollten Sie zuerst ansehen oder wissen: Python plus grundlegende Vertrautheit mit ML-Tools; der Kurs richtet sich an Hardware, die die meisten Entwickler bereits besitzen.
Hinweis von AI Expert: Modellnamen, Preise und Fähigkeiten ändern sich schnell. Die Basismodelle des Kurses (Llama 2, Gemma) sind veraltet, doch die vermittelten LoRA-, QLoRA- und Quantisierungstechniken lassen sich direkt auf aktuelle Open-Weight-Modelle übertragen. Nutzen Sie den Kurs für das Entscheidungsmuster und prüfen Sie vor dem Einsatz das aktuelle Modellverhalten.
