Атака на LLM — инъекция в промпт

LiveOverflow. Материал рассматривает инъекцию в промпт как классическую атаку на систему, смешивающую инструкции и недоверенные данные. На примере модерации показано, как злоумышленник может подставить невиновного пользователя. Главное изменение перспективы совпадает со статьёй: целью атаки является не отдельная модель, а приложение в целом.

Смотреть дальше

Продолжайте тот же учебный путь со следующими связанными видео.

19 мин

Это конец RAG? Новое кеширование промптов от Anthropic

Оценить архитектурный подход, возможные сбои и защитные меры до разработки.

ПродвинутыйИИ для бизнеса

32 мин

Быстрый сервинг LLM с vLLM и PagedAttention

Оценить архитектурный подход, возможные сбои и защитные меры до разработки.

ПродвинутыйКонфиденциальный и локальный ИИ

34 мин

Как ИИ переизобретает бизнес-модели ПО — с Bret Taylor из Sierra

Оценить архитектурный подход, возможные сбои и защитные меры до разработки.

ПродвинутыйИИ для бизнеса