Context Rot: How Increasing Input Tokens Impacts LLM Performance

8 минЭкспертРазработчикChromaЗапросы к ИИ

Chroma. Келли Хонг проходит по исследованию Chroma на 18 моделях — почему оценки needle-in-haystack обманчивы, как качество деградирует при неоднозначности и отвлекающих факторах, почему даже простые задачи на повторение строк деградируют после 500 токенов. Кратко, доказательно и ровно та позиция, к которой статья хочет, чтобы вы отнеслись всерьёз, прежде чем переходить к инженерным ходам.

Заметка AI Expert

Названия моделей, цены и возможности быстро меняются. Используйте видео для понимания принципа выбора, затем проверьте актуальное поведение модели перед внедрением.

Что вынести из этого видео

Понять, как длинный контекст может давать сбои при неоднозначности и отвлекающих факторах, и проектировать тесты с учётом этого риска.

Что посмотреть или знать заранее

Ничего сверх базовой терминологии LLM — это короткий доклад по исследованию.

Последняя проверка: 18 мая 2026 г.

Смотреть дальше

Продолжайте тот же учебный путь со следующими связанными видео.

Углубиться

Тщательно подобранные внешние курсы, которые глубже раскрывают эту тему.

DeepLearning.AI

ChatGPT Prompt Engineering for Developers

Иса Фулфорд · Эндрю Ын

Девяносто минут — и вы получаете годовой опыт интуиции. Если вы пишете код, вызывающий LLM, это самый эффективный курс в интернете для закрытия разрыва между «играю с ChatGPT» и «выкатываю функцию с вызовом LLM в рабочую эксплуатацию».

Уверенный~1,5 часа
Coursera · Vanderbilt University

Prompt Engineering for ChatGPT

Dr. Jules White

Хорошее длинное дополнение к короткому курсу DeepLearning.AI, особенно для людей без кода. Dr. White учит промптингу как набору повторяемых паттернов, а не трюкам, поэтому работа с LLM становится системной.

Начинающий~18 часов
Microsoft Learn

Work Smarter with AI: Craft Effective Prompts for Microsoft Copilot

Microsoft Learn

Промпт-инжиниринг, но для инструмента, с которым большинство офисных сотрудников столкнётся первым. Собственная четырёхчастная схема промптов Microsoft (цель, контекст, источник, ожидание) — действительно полезная модель мышления, и в отличие от общих курсов по промптам для ChatGPT уже в нашем каталоге, этот полностью привязан к специфике Microsoft 365 Copilot и тому, как он опирается на данные.

Уверенный~1h 5m · в своём темпе

Все курсы в категории «Запросы к ИИ»