Видео к статье

Безопасное подключение ИИ к почте, календарю и CRM — видео к статье

Как только ИИ-инструмент получает доступ к почтовому ящику, недоверенный текст может повлиять на его действия. Статья разбирает области доступа OAuth, выделенные сервисные аккаунты и подтверждение человеком; видео наглядно объясняют угрозу инъекций в промпты.

Основная рекомендация

10:57

Что такое атака с инъекцией в промпт?

IBM Technology

Пример Джеффа Крума с фразой «купи внедорожник за один доллар» кратко показывает разницу между прямой и косвенной инъекцией в промпт и объясняет, почему одной фильтрации недостаточно. Это подтверждает тезис статьи: нужны минимальные права доступа, отдельный аккаунт агента и подтверждение человеком для необратимых действий, а не только более сложный системный промпт.

Что вынести из этого видео: Пример Джеффа Крума с «купи SUV за $1» — самое чистое 10-минутное объяснение того, почему прямой и непрямой prompt injection — это разные проблемы и почему фильтрация не решает полностью ни одну из них. Прямо подходит…

Заметка AI Expert: Относитесь к этому как к материалу о безопасности и управлении, а не как к готовому плану внедрения. Перед использованием реальных данных проверьте права доступа, логирование, хранение и проверку человеком.

Открыть страницу видео

Также стоит посмотреть

25:11

Топ-10 атак на LLM по версии OWASP: разбор уязвимостей ИИ

IBM Technology

Видео расширяет тему инъекций до OWASP Top 10 для LLM: небезопасной обработки результатов, раскрытия чувствительных данных и избыточной автономности. Эти риски нужно оценить до выдачи агенту доступа к Gmail или HubSpot.

Что вынести из этого видео: Вы увидите, как инъекции в промпты связаны с более широкими рисками OWASP для LLM: небезопасной обработкой результатов, утечками данных и избыточной автономностью.

Открыть страницу видео