Видео к статье

Prompt injection и безопасность LLM — видео к статье

Статья относится к prompt injection так, как безопасники относятся к SQL injection — как к свойству подложки, а не к багу, который нужно залатать, — и прорабатывает модели угроз, ограничение blast-radius и эшелонированный стек защиты, который вам реально нужен. Эти два видео LiveOverflow — самое чистое парное объяснение атакующей и защитной сторон от человека с реальным IT-секьюрити бэкграундом, и они ложатся почти такт-в-такт на статью.

Основная рекомендация

13:22

Attacking LLM - Prompt Injection

LiveOverflow

Рамкует prompt injection как классическую injection-атаку против систем, которые смешивают инструкции и недоверенные данные — с конкретным примером модерации контента, где атакующий подставляет невинного пользователя. Сдвиг ментальности с «целью является модель» на «целью является приложение» — ровно тот ход, с которого начинает статья.

Что вынести из этого видео: Рамкует prompt injection как классическую injection-атаку против систем, которые смешивают инструкции и недоверенные данные — с конкретным примером модерации контента, где атакующий подставляет невинного пользователя.…

Заметка AI Expert: Относитесь к этому как к материалу о безопасности и управлении, а не как к готовому плану внедрения. Перед использованием реальных данных проверьте права доступа, логирование, хранение и проверку человеком.

Открыть страницу видео

Также стоит посмотреть

17:11

Defending LLM - Prompt Injection

LiveOverflow

Проходит реальный плейбук эшелонированной защиты — taint-анализ вывода LLM, ограничение ожидаемой формы вывода, изоляция пользователей, few-shot каркасы, fine-tuning, температура 0 для детерминизма, избыточность на критических путях. Совпадает с разделом про защитный стек в статье почти пункт в пункт.

Что вынести из этого видео: Проходит реальный плейбук эшелонированной защиты — taint-анализ вывода LLM, ограничение ожидаемой формы вывода, изоляция пользователей, few-shot каркасы, fine-tuning, температура 0 для детерминизма, избыточность на…

Открыть страницу видео