7 minutterHukommelse til agenter (konceptuel video)
Skeln mellem beslutninger om kortvarig og langvarig hukommelse, og vurdér, hvornår en AI-agent bør skrive til sin hukommelse.
Afspil videofreeCodeCamp.org. Det lange kursus går fra teori til kode og dækker kvantisering, LoRA, QLoRA og PEFT med Llama 2 og Gemma. Det viser et konkret hardwaremiljø og konkrete VRAM-budgetter, som gør artiklens diskussion af eksperimenter uden en klynge mere håndgribelig. Resultaterne gælder det viste miljø og er ikke et generelt løfte om, hvad almindelig udviklerhardware kan klare.
Modelnavne, priser og egenskaber ændrer sig hurtigt. Kursets basismodeller (Llama 2, Gemma) er ældre, og biblioteker samt API'er kan have ændret sig. De grundlæggende principper for LoRA, QLoRA og kvantisering er stadig relevante, men kontrollér dem med den valgte model med åbne vægte og det aktuelle værktøjssæt.
Få et grundlag for at gennemføre eksperimenter med kvantisering, LoRA og QLoRA fra start til slut på passende hardware.
Python og grundlæggende fortrolighed med ML-værktøjer; kontrollér selv, om din hardware opfylder kursets krav.
Senest gennemgået: 18. maj 2026
Fortsæt ad den samme læringsvej med de næste kuraterede videoer.
7 minutterSkeln mellem beslutninger om kortvarig og langvarig hukommelse, og vurdér, hvornår en AI-agent bør skrive til sin hukommelse.
13 minutterModellér promptinjektion som blanding af utroværdige data, og design grænser omkring tool use.
19 minutterDu kan estimere, hvornår promptcaching betaler sig, ved at veje cache-write-tillæg op mod read-besparelser for dine reelle workloads.