生产AI失败模式：演示之后会出什么问题——配套视频

MLOps.community

Prosus的AI副总裁和一位AI工程师讲述了他们在集团旗下公司部署智能体时真正出现的问题：上线前进行提示词注入渗透测试；Jira智能体无法理解人类简写而执行了不安全的写入；通过让智能体明确展示自身假设来处理陈旧上下文；以及在降级设计中，一旦智能体增加认知负担，就将其合并或停用。这就像把文章中的失败模式登记表搬进了一场现场复盘。

您应该从中获得什么: 识别你自己的智能体最先可能遇到的失败模式，并提前为每一种模式规划测试、降级方案和停用标准。

先观看或了解: 熟悉LLM智能体、工具调用和基本生产监控；可将文章中的失败模式登记表作为参考地图。