Context Rot: как рост входных токенов влияет на качество работы LLM

8 минПродвинутыйРазработчикChromaЗапросы к ИИ

Chroma. Келли Хонг проходит по исследованию Chroma на 18 моделях — почему оценки needle-in-haystack обманчивы, как качество деградирует при неоднозначности и отвлекающих факторах, почему даже простые задачи на повторение строк деградируют после 500 токенов. Кратко, доказательно и ровно та позиция, к которой статья хочет, чтобы вы отнеслись всерьёз, прежде чем переходить к инженерным ходам.

Заметка AI Expert

Названия моделей, цены и возможности быстро меняются. Используйте видео для понимания принципа выбора, затем проверьте актуальное поведение модели перед внедрением.

Что вынести из этого видео

Понять, как длинный контекст может давать сбои при неоднозначности и отвлекающих факторах, и проектировать тесты с учётом этого риска.

Что посмотреть или знать заранее

Ничего сверх базовой терминологии LLM — это короткий доклад по исследованию.

Последняя проверка: 18 мая 2026 г.

Смотреть дальше

Продолжайте тот же учебный путь со следующими связанными видео.

Углубиться

Тщательно подобранные внешние курсы, которые глубже раскрывают эту тему.

Все курсы в категории «Запросы к ИИ»