1:08:40MLOps.community
Вице-президент по ИИ в Prosus и ИИ-инженер рассказывают, что реально ломалось при внедрении агентов в портфельных компаниях группы: пентесты на промпт-инъекции перед запуском, опасная запись, когда Jira-агент споткнулся о человеческие сокращения, устаревший контекст, против которого агентов научили показывать свои допущения, и проектирование запасных сценариев, где агентов объединяли или отключали, как только они добавляли когнитивную нагрузку. Это реестр отказов из статьи, проигранный как живой постмортем.
Что вынести из этого видео: Распознать сбои, на которые ваши агенты наткнутся первыми, и заранее заложить тесты, запасные сценарии и критерии остановки для каждого.
Что посмотреть или знать заранее: Знакомство с LLM-агентами, вызовами инструментов и базовым мониторингом продакшена; реестр отказов из статьи как карта.
Заметка AI Expert: Записано в начале 2025 года, так что ландшафт инструментов ушёл вперёд, но каждый обсуждаемый класс сбоев новые команды открывают заново до сих пор. Смотрите на инциденты и операционные решения, а не на названия фреймворков.