Видео к статье

Безопасное подключение ИИ к почте, календарю и CRM — видео к статье

В момент, когда ИИ-инструмент получает право читать ваш ящик, недоверенный текст становится исполняемым. Статья разбирает OAuth scopes, выделенные сервисные аккаунты и контрольные точки с человеком в цикле; эти видео делают саму модель атаки — prompt injection — достаточно конкретной, чтобы её всерьёз воспринимать.

Основная рекомендация

10:57

What Is a Prompt Injection Attack?

IBM Technology

Пример Джеффа Крума с «купи SUV за $1» — самое чистое 10-минутное объяснение того, почему прямой и непрямой prompt injection — это разные проблемы и почему фильтрация не решает полностью ни одну из них. Прямо подходит к тезису статьи: нужны минимальные привилегии scope, выделенный аккаунт под агента и человек в цикле на всех необратимых действиях — а не более хитрый system prompt.

Что вынести из этого видео: Пример Джеффа Крума с «купи SUV за $1» — самое чистое 10-минутное объяснение того, почему прямой и непрямой prompt injection — это разные проблемы и почему фильтрация не решает полностью ни одну из них. Прямо подходит…

Заметка AI Expert: Относитесь к этому как к материалу о безопасности и управлении, а не как к готовому плану внедрения. Перед использованием реальных данных проверьте права доступа, логирование, хранение и проверку человеком.

Открыть страницу видео

Также стоит посмотреть

25:11

OWASP's Top 10 Ways to Attack LLMs: AI Vulnerabilities Exposed

IBM Technology

Отъезжает от prompt injection к более широкому OWASP Top 10 для LLM — небезопасная обработка вывода, утечка чувствительной информации, избыточная агентность — ровно тот каталог режимов отказа, который нужно держать в голове, прежде чем выдавать scope на Gmail или HubSpot чему-либо.

Что вынести из этого видео: Отъезжает от prompt injection к более широкому OWASP Top 10 для LLM — небезопасная обработка вывода, утечка чувствительной информации, избыточная агентность — ровно тот каталог режимов отказа, который нужно держать в…

Открыть страницу видео