Tilhørende videoer

Finjustering i 2026: hvornår LoRA slår RAG, og hvordan du gør det uden en klynge — ledsagende videoer

Artiklen argumenterer for, at mange finjusteringsprojekter forsøger at løse et problem, der bedre kan håndteres på anden vis. På en velafgrænset opgave kan LoRA dog være et effektivt greb i 2026, og mindre eksperimenter kan ofte gennemføres uden en hel klynge. Det afhænger stadig af model, datasæt, hardware og evalueringskrav. Videoerne supplerer artiklen med en længere praktisk gennemgang og et roligere begrebsmæssigt overblik.

Primært valg

2:37:05

Fine-tuning af LLM-modeller – kursus i generativ AI

freeCodeCamp.org

Det lange kursus går fra teori til kode og dækker kvantisering, LoRA, QLoRA og PEFT med Llama 2 og Gemma. Det viser et konkret hardwaremiljø og konkrete VRAM-budgetter, som gør artiklens diskussion af eksperimenter uden en klynge mere håndgribelig. Resultaterne gælder det viste miljø og er ikke et generelt løfte om, hvad almindelig udviklerhardware kan klare.

Hvad du bør få ud af dette: Få et grundlag for at gennemføre eksperimenter med kvantisering, LoRA og QLoRA fra start til slut på passende hardware.

Forudsætninger: Python og grundlæggende fortrolighed med ML-værktøjer; kontrollér selv, om din hardware opfylder kursets krav.

Bemærkning fra AI Expert: Modelnavne, priser og egenskaber ændrer sig hurtigt. Kursets basismodeller (Llama 2, Gemma) er ældre, og biblioteker samt API'er kan have ændret sig. De grundlæggende principper for LoRA, QLoRA og kvantisering er stadig relevante, men kontrollér dem med den valgte model med åbne vægte og det aktuelle værktøjssæt.

Åbn videoside

Også værd at se

58:45

Udvikling af en LLM: opbygning, træning og finjustering

Sebastian Raschka

Sebastian Raschka gennemgår finjusteringens placering i den bredere proces for træning af LLM'er, herunder instruktionsfinjustering, klassifikationsfinjustering, parametereffektive metoder og de afvejninger, artiklen beskriver før en eventuel anbefaling af LoRA. Videoen er nyttig som fagligt overblik, når et team skal vurdere, om finjustering overhovedet er det rigtige næste skridt.

Hvad du bør få ud af dette: Placér finjustering i den bredere træningsproces, og vurdér, hvornår den kan være mere relevant end udformning af prompts eller RAG.

Forudsætninger: Grundlæggende forståelse af ML; gennemgangen er begrebsmæssig og kræver ikke et miljø til at følge kodeeksempler.

Bemærkning fra AI Expert: Modelnavne, priser og egenskaber ændrer sig hurtigt. Brug videoen til beslutningsmønstret, og kontrollér derefter den aktuelle models adfærd, før metoden tages i brug.

Åbn videoside