IBM Technology. Пример Джеффа Крума с «купи SUV за $1» — самое чистое 10-минутное объяснение того, почему прямой и непрямой prompt injection — это разные проблемы и почему фильтрация не решает полностью ни одну из них. Прямо подходит к тезису статьи: нужны минимальные привилегии scope, выделенный аккаунт под агента и человек в цикле на всех необратимых действиях — а не более хитрый system prompt.
Относитесь к этому как к материалу о безопасности и управлении, а не как к готовому плану внедрения. Перед использованием реальных данных проверьте права доступа, логирование, хранение и проверку человеком.
Пример Джеффа Крума с «купи SUV за $1» — самое чистое 10-минутное объяснение того, почему прямой и непрямой prompt injection — это разные проблемы и почему фильтрация не решает полностью ни одну из них. Прямо подходит…
Продолжайте тот же учебный путь со следующими отобранными видео-компаньонами.
