Kontextförfall: så påverkar fler token i indata en LLM:s prestanda

8 minuterAvanceradByggareChromaPromptteknik

Chroma. Kelly Hong går igenom Chromas forskning om 18 modeller: varför resultat från nålen-i-höstacken-tester är missvisande, hur prestandan försämras av tvetydighet och distraherande information samt varför till och med enkla uppgifter med upprepning av strängar försämras efter 500 token. Videon är kort, evidensbaserad och ger exakt det argument som artikeln behöver för att du ska ta problemet på allvar innan den går vidare till de tekniska åtgärderna.

Anteckning från AI Expert

Modellnamn, priser och funktioner förändras snabbt. Använd videon för beslutsmönstret och kontrollera sedan den aktuella modellens beteende innan du inför lösningen.

Vad du bör få ut av detta

Förstå hur lång kontext kan fallera vid tvetydighet och distraherande information och utforma sedan tester kring den risken.

Titta på eller ha koll på först

Inga utöver grundläggande LLM-terminologi. Det är ett kort forskningsföredrag.

Senast granskad: 18 maj 2026

Se nästa

Fortsätt längs samma lärstig med nästa kurerade kompletterande video.

Gå vidare

Externa kurser som är handplockade och går djupare in i detta ämne.

Se alla kurser för Promptteknik