7 minuterMinne för agenter (konceptuell video)
Skilj beslut om korttidsminne från beslut om långtidsminne och avgör när agentens minne ska skrivas.
Spela upp videonfreeCodeCamp.org. Kursen behandlar kvantisering, LoRA, QLoRA och PEFT med Llama 2 och Gemma. Kursen visar VRAM-exempel för specifika konfigurationer. Artikeln kräver mätningar för vald modell och hårdvara; exemplen visar inte att varje lämplig uppgift kan klaras utan kluster.
Kursens basmodeller (Llama 2, Gemma) är exempel från sin tid. Använd metoderna som bakgrund och kontrollera modellstöd, biblioteksversioner, resursbehov och resultat för din konfiguration; direkt överförbarhet är inte garanterad.
Använd kursen som exempel för att planera ett LoRA- eller QLoRA-experiment och mät själv resursbehov och resultat för vald konfiguration.
Python och grundläggande vana vid ML-verktyg; kontrollera resurskraven för vald modell och hårdvara före experimentet.
Senast granskad: 18 maj 2026
Fortsätt längs samma lärstig med nästa kurerade kompletterande video.
7 minuterSkilj beslut om korttidsminne från beslut om långtidsminne och avgör när agentens minne ska skrivas.
13 minuterModellera promptinjektion som en sammanblandning av data som inte är betrodda och utforma gränser kring verktygsanvändningen.
19 minuterDu kan uppskatta när promptcachelagring lönar sig genom att väga pristillägget för cacheskrivningar mot besparingen vid läsning för dina verkliga arbetsbelastningar.