Dégradation du contexte : Comment l'augmentation des tokens d'entrée affecte les performances des grands modèles de langage

8 minutesAvancéConcepteurChromaIngénierie des prompts

Chroma. Kelly Hong présente les recherches de Chroma sur 18 modèles : pourquoi les scores aux tests de « l'aiguille dans une botte de foin » sont trompeurs, comment les performances diminuent face à l'ambiguïté et aux éléments parasites, et pourquoi même de simples tâches de répétition de chaînes se dégradent au-delà de 500 tokens. Courte et étayée par des données, cette vidéo montre précisément le risque qu'il faut prendre au sérieux avant d'aborder les solutions techniques de l'article.

Note d’AI Expert

Les modèles, leurs tarifs et leurs capacités évoluent rapidement. Retenez ici la méthode de décision, puis vérifiez le comportement des modèles actuels avant de l'adopter.

Ce que vous en retirerez

Comprendre comment le contexte long peut échouer en présence d'ambiguïté et d'éléments perturbateurs, puis concevoir des tests autour de ce risque.

À voir ou à connaître au préalable

Seul le vocabulaire de base des grands modèles de langage est nécessaire ; il s'agit d'une brève présentation de recherche.

Dernière révision : 18 mai 2026

À regarder ensuite

Continuez dans le même parcours d’apprentissage avec les prochaines vidéos d’accompagnement sélectionnées.