AI安全

提示词注入与大语言模型安全：威胁模型与纵深防御

提示词注入是长期存在的一类大语言模型安全风险，并非提示词编写失误。本文是一份面向生产环境的指南，涵盖威胁模型、数据边界、工具权限、回归测试、监控和事件响应。

企业知识RAG：权限、泄露与来源边界

只有检索过程遵守权限，企业知识助手才是安全的。本文介绍如何设计RAG来源边界、ACL筛选、文档责任归属、日志记录、过时来源处理和拒绝行为。

11 分钟阅读

面向RAG的安全文档摄取：PDF、OCR、元数据与保留

RAG质量始于检索之前。本文是一份安全摄取指南，涵盖PDF、OCR、元数据、权限、来源时效性、删除、恶意软件风险和运营责任归属。

此主题下的更多内容

20 分钟

RAG权限与访问控制：深入教程

Paragon. 视频逐步讲解生产环境中的RAG权限问题，并比较工具调用、命名空间、ACL表和基于关系的权限。这直接支持文章的核心规则：检索只能返回当前用户获准查看的来源，而且不能把源系统权限视为事后补充。

69 分钟

智能体生态：将智能体投入生产后得到的经验

MLOps.community. Prosus的AI副总裁和一位AI工程师讲述了他们在集团旗下公司部署智能体时真正出现的问题：上线前进行提示词注入渗透测试；Jira智能体无法理解人类简写而执行了不安全的写入；通过让智能体明确展示自身假设来处理陈旧上下文；以及在降级设计中，一旦智能体增加认知负担，就将其合并或停用。这就像把文章中的失败模式登记表搬进了一场现场复盘。

7 分钟

用Docling提升RAG与AI智能体

IBM Technology. 视频讲解RAG和智能体的摄取环节：如何准备PDF和其他文件，使文档结构、表格和版面布局能够保留到后续检索阶段。这印证了文章的提醒：RAG的质量与安全始于嵌入之前，解析复杂业务文档时尤其如此。

私有AI部署模式：本地、VPC、自托管与混合架构

私有AI并非单一架构。针对中小企业在隐私和控制需求下的本地模型、企业SaaS、VPC部署、自托管推理和混合模式的实用对比。

生产AI失败模式：演示之后会出什么问题

AI系统通常以可预测的方式失败：幻觉、上下文过时、过度迎合、提示词注入、不安全的工具调用、模式漂移和薄弱的降级机制。这是一份面向真实工作流交付团队的生产AI失败模式清单。

如何安全地将AI连接到电子邮件、日历和CRM

将AI连接到实际使用的工具——电子邮件、日历、CRM——既能释放生产力，也会带来风险。本指南介绍2026年行之有效的集成、安全模式，以及不应逾越的界限。

中级

8 分钟阅读

在工作中使用AI时的隐私与数据卫生

一份实用指南，帮助你在工作中使用AI时避免意外泄露客户数据、违反公司政策或违反GDPR。了解界限、工具以及需要养成的习惯。

初级

25 分钟

OWASP攻击LLM的10种方式：AI漏洞揭秘

IBM Technology. 视频从提示词注入扩展到更全面的OWASP LLM十大风险——不安全的输出处理、敏感信息泄露、过度代理等。在向任何工具授予Gmail或HubSpot权限范围之前，你正需要在脑中备好这份故障模式清单。

中级

11 分钟

什么是提示词注入攻击？

IBM Technology. Jeff Crume用“以$1购买一辆SUV”的例子，在10分钟内极其清楚地解释了为什么直接提示词注入与间接提示词注入是两类不同的问题，以及为什么过滤无法彻底解决任何一类。这与文章的论点直接呼应：对于任何不可逆操作，你需要最小权限范围、专用智能体账号和人在回路机制，而不是更巧妙的系统提示词。

中级

13 分钟

攻击LLM：提示词注入

LiveOverflow. 视频将提示词注入描述为一种经典的注入攻击，目标是混合指令与不可信数据的系统，并给出一个具体的内容审核示例：攻击者借此陷害无辜用户。从“模型是攻击目标”转变为“应用才是攻击目标”，正是文章开篇要求建立的思维方式。

17 分钟

保护LLM：防御提示词注入

LiveOverflow. 视频逐一讲解实际的纵深防御方案：对LLM输出进行污点分析、限制预期输出形态、用户隔离、少样本脚手架、微调、使用温度0实现确定性，以及为关键路径设置冗余。它与文章的防御体系章节几乎逐项对应。