AI安全与数据隐私

隐私入门：ChatGPT会记住、看到和分享什么

分清训练、记忆、存储和向第三方分享数据这几件事。检查与你的账户有关的设置，不要把临时对话或付费方案当作分享敏感数据的许可。

在工作中使用AI时的隐私与数据卫生

一份实用指南，帮助你降低工作中使用AI时的隐私和保密风险。粘贴前，应检查具体产品、套餐、配置、数据和适用规则。

14 分钟阅读

提示词注入与大语言模型安全：威胁模型与纵深防御

提示词注入是长期存在的一类大语言模型安全风险，并非提示词编写失误。本文是一份面向生产环境的指南，涵盖威胁模型、数据边界、工具权限、回归测试、监控和事件响应。

此主题下的更多内容

Hermes Agent 第一周：记忆管理、技能与工具审批

Hermes Agent 的安全第一周设置：安装并完成冒烟测试，整理 MEMORY.md 与 USER.md，添加一个技能，限制文件写入范围，并禁用或隔离 shell 访问。

Hermes Webhook：无需巨型万能提示的事件驱动智能体

使用符合事件来源要求的身份验证、8644 端口健康检查和小型命名路由配置 Hermes Agent webhook，让事件触发目标明确、交付位置清楚的智能体运行。

n8n AI 节点的幂等性、重试与人工审批关卡

AI 节点的失败方式不同于 CRUD API。为 n8n 设计重试、幂等键、人工参与的审批关卡与日志，避免不稳定的模型调用重复发送邮件或跳过审核。

从 n8n 调用 vLLM 及其他 OpenAI 兼容端点

通过 n8n 的 HTTP Request 节点调用本地 OpenAI 兼容的 /v1/chat/completions 端点，并明确配置身份验证、超时预算、base URL 检查和私有网络边界。

DGX Spark 上的 NemoClaw：部署与安全计划

规划并评估如何在 DGX Spark 的 NVIDIA OpenShell 中运行 OpenClaw、Hermes 或 Deep Agents Code：当前上手流程、策略层、路由推理，以及上线前必须取得的验收证据。

OpenClaw 允许列表、配对与群组提及安全

渠道允许列表、DM 配对与群组提及规则是 OpenClaw 真正的安全边界，因为工具可能包括 shell、文件与浏览器。本文提供一份实用的锁定清单。

OpenClaw 个人网关设置：安装、初始配置与控制台

OpenClaw 是什么、如何安装并完成自托管多渠道网关的初始配置、在 18789 端口打开 Control UI，以及支持哪些 Node 版本，同时不跳过安全基线。

OpenClaw 技能、心跳自治与审批关卡

了解 OpenClaw 如何加载技能、心跳周期性轮次如何运行、如何限制主机 shell 执行，以及如何通过严格的浏览器策略和经过审查的工作流确认来约束浏览器自动化。

勿把银行对账单粘进AI

账号、余额、对手方与工资行，对消费级AI属于粘贴禁令。如何用打入的、已脱敏字段从模型获得素养帮助——而无需上传完整对账单、截图或PDF导出。

家居照片与平面图：上传前先谈隐私

把室内与平面图上传到消费级AI，可能泄露布局、贵重物品、孩子房间与安防线索。一份隐私优先清单：该脱敏什么、什么应保持离线，以及如何在不广播你家的情况下仍获得规划帮助。

5 分钟阅读

自由职业者的客户AI使用规则

在把客户简报、草稿或数据靠近消费级AI工具之前，写一页个人政策卡：什么永远不粘贴、什么需要客户同意、什么仍由你自己定价与界定范围，以及何时升级给人类专家。自由职业者不会继承雇主的AI政策——你需要自己的。

一份兼顾尊严与具体情况的照护交接

当照护在家庭成员、不同班次或新的付费照护者之间转交时，人们通常只传递任务清单和仓促的口头摘要。交接模板也能把被照护者本人的偏好传递下去——而不让AI把这些偏好变成行为标签。

慢性病照护事务管理：建立照护日程，而不是治疗方案

照护事务看板可以协调预约、续方申请、表格、出行安排和跟进，同时保留照护团队的指示，并把每个临床问题转交给合格专业人士。

在用AI编辑或分享他人照片之前，先取得同意

把朋友的照片上传到AI工具去除背景、替换笑容或变成插画，看似只是一次私下的小修改。对照片中的人来说，这可能是一个影响更大、他们却从未有机会参与的决定。

在不暴露银行流水的前提下发现订阅漂移

在本地脱敏交易导出后审查经常性扣款与漂移，无需把AI工具接入银行账户。得到一份带置信度标记的商户清单，以及由人亲手执行的取消核对表。

理解医疗文件，而不把它变成医疗建议

出院小结或检查报告满是你从未学过如何阅读的临床缩写。四栏方法——原文、通俗转述、不确定点、向临床医生的问题——让AI翻译语言，却从不告诉你结果对你意味着什么。

协调年迈父亲或母亲的照护，同时保留本人的话语权

兄弟姐妹开始协调年迈父亲或母亲的照护时，信息容易散落在群聊里，当事人反而可能被忽略。一份以本人同意为前提的记录，明确分享什么、与谁分享，并严格区分紧急信息与行政信息，既能让协调切实可行，也能让当事人继续参与决定。

这款AI产品会妥善保护孩子的数据吗？一份隐私检查清单

这份七点清单检查年龄规则、数据收集、保留期限、训练用途、数据共享、家长控制和删除机制，帮助你初步判断一款AI产品是否值得进入更广泛的审核、需要在控制措施下由合格人员决定，或应在问题解决前停止使用。

归档家庭照片与故事，而不编造历史

一套兼顾同意与来源信息的流程，用于起草家庭档案的转写文本和说明文字，同时把模型推断与已确认的历史分开，并避免把儿童数据提交给未经批准的工具。

一套帮你检索、而不是囤积的个人知识系统

一套范围明确的「收集到检索」系统：定义使用场景、检索测试、复核日期和删除规则，并警惕敏感笔记、他人数据，以及由服务商托管的账户。

哪些事情不该交给AI：划清个人边界

用一套实用的边界测试，把责任、人际关系和重要技能留在人手中，同时继续从AI辅助中获益。

人声克隆欺诈：真正管用的中小企业控制措施

三项程序性控制措施，在来电者或视频参与者能令人信服地模仿董事、同事或供应商时，保护中小企业支付与敏感变更。

证明什么是真实的：溯源、水印与Content Credentials

C2PA Content Credentials与水印实际能证明什么、截图与重新上传后什么会消失，以及中小企业如何带着诚实的溯源政策发布媒体。

电话里的声音很耳熟：如何识别AI驱动的诈骗

一份冷静、实用的指南，介绍利用语音克隆制造的紧急骗局、冒充消息、虚假媒体，以及经AI润色的诈骗，并提供一套即使假象足以乱真也仍然有效的家庭核实方案。

20 分钟

RAG权限与访问控制：深入教程

Paragon. 视频逐步讲解生产环境中的RAG权限问题，并比较工具调用、命名空间、ACL表和基于关系的权限。这直接支持文章的核心规则：检索只能返回当前用户获准查看的来源，而且不能把源系统权限视为事后补充。

30 分钟

解读《欧盟人工智能法案》：将合规转化为竞争优势｜Carme Artigas

MSP GLOBAL. Carme Artigas主持了促成EU AI Act的欧盟理事会谈判，并在视频中面向许多中小企业采购AI系统时使用的托管服务提供商讲解该法案。她按照当时的理解梳理了时间表，从2025年8月的GPAI行为准则，到2026年8月的一项合格评定节点，并讨论供应商文件。此后，[AI Omnibus，即Regulation (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202601744)将相关Chapter III高风险要求调整为：Annex III系统自2027年12月2日起适用，Annex I涵盖的系统自2028年8月2日起适用。系统清点、供应商证据和责任归属工作仍然有用，但视频中的日期仅具有历史参考价值。

69 分钟

智能体生态：将智能体投入生产后得到的经验

MLOps.community. Prosus的AI副总裁和一位AI工程师讲述了他们在集团旗下公司部署智能体时真正出现的问题：上线前进行提示词注入渗透测试；Jira智能体无法理解人类简写而执行了不安全的写入；通过让智能体明确展示自身假设来处理陈旧上下文；以及在降级设计中，一旦智能体增加认知负担，就将其合并或停用。这就像把文章中的失败模式登记表搬进了一场现场复盘。

7 分钟

用Docling提升RAG与AI智能体

IBM Technology. 视频讲解RAG和智能体的摄取环节：如何准备PDF和其他文件，使文档结构、表格和版面布局能够保留到后续检索阶段。这印证了文章的提醒：RAG的质量与安全始于嵌入之前，解析复杂业务文档时尤其如此。

AI工作流中的人在回路设计模式

人工审核并不是含糊的安全保障。本文提供一份实用指南，帮助你确定在AI工作流中，哪些事项应由人工审批、抽查、审计、升级处理，或绝不交由AI完成。

11 分钟阅读

RAG 的安全文档摄取：PDF、OCR、元数据与保留策略

RAG 质量始于检索之前。本文是一份安全摄取指南，涵盖 PDF、OCR、元数据、权限、来源时效性、删除、恶意软件风险和运营责任归属。

AI 投资回报率与成熟度：如何衡量真正有效的采用情况

衡量 AI 应用成效，不能只看有多少人尝试过 ChatGPT。本文提供一个衡量工作流投资回报率、质量、风险、成熟度和规模化准备程度的实用框架。

企业知识RAG：权限、泄露与来源边界

只有检索过程遵守权限，企业知识助手才是安全的。本文介绍如何设计RAG来源边界、ACL筛选、文档责任归属、日志记录、过时来源处理和拒绝行为。

生产AI失败模式：演示之后会出什么问题

AI系统通常以可预测的方式失败：幻觉、上下文过时、过度迎合、提示词注入、不安全的工具调用、模式漂移和薄弱的降级机制。这是一份面向真实工作流交付团队的生产AI失败模式清单。

面向中小企业的欧盟《人工智能法案》：一份实用的治理计划

欧盟《人工智能法案》并非只给大型供应商带来法律问题。本指南为中小企业提供一套实用方案，涵盖清单盘点、风险分类、人工监督、透明度、供应商记录和分阶段实施规范。

私有 AI 部署模式：本地、VPC、自托管和混合

私有 AI 并非单一架构。本文面向重视隐私和控制权的中小企业，对比本地模型、企业 SaaS、VPC 部署、自托管推理和混合模式。

安全地将 AI 连接到电子邮件、日历和 CRM 系统

一份基于风险的指南：以最小权限、审批关卡、受保护的审计证据、负向测试与恢复路径，把AI连接到电子邮件、日历和CRM。

在Mac上运行本地AI：Ollama、LM Studio，以及7B模型究竟能做什么

本地运行AI已日趋成熟。借助Ollama或LM Studio和一台现代Mac，你可以离线、免费且私密地运行能力不俗的模型。本文将介绍哪些方法可行、哪些不可行，以及真正能从中受益的使用场景。

与AI分享图像：哪些可以上传，哪些不应该上传

现代AI读取照片、图表、屏幕截图和手写内容几乎和读取文本一样轻松。本指南将实用地介绍哪些做法有效、哪些无效，以及上传任何内容前应完成的三十秒隐私检查。

25 分钟

OWASP攻击LLM的10种方式：AI漏洞揭秘

IBM Technology. 视频从提示词注入扩展到更全面的OWASP LLM十大风险——不安全的输出处理、敏感信息泄露、过度代理等。在向任何工具授予Gmail或HubSpot权限范围之前，你正需要在脑中备好这份故障模式清单。

11 分钟

什么是提示词注入攻击？

IBM Technology. Jeff Crume用“以$1购买一辆SUV”的例子，在10分钟内极其清楚地解释了为什么直接提示词注入与间接提示词注入是两类不同的问题，以及为什么过滤无法彻底解决任何一类。这与文章的论点直接呼应：对于任何不可逆操作，你需要最小权限范围、专用智能体账号和人在回路机制，而不是更巧妙的系统提示词。

93 分钟

Sam Altman｜Theo Von访谈节目This Past Weekend第599期

Theo Von. 大约在第十二分钟，Altman承认与ChatGPT的对话不受法律特权保护，而且在诉讼中OpenAI可能会被要求交出这些对话。这是关于该话题引用最广的一段视频，值得听他亲口说明，而不是通过新闻片段了解。后面的谈话涉及许多其他话题，但仅这段对话就诚实回答了文章提出的问题：“公司究竟会如何处理我输入的内容？”

13 分钟

如何保障AI商业模型的安全

IBM Technology. Jeff Crume通过白板讲解了生成式AI引入风险的三个环节——数据、模型和使用方式——以及各环节应采用的良好管控措施。这有助于理解文章的观点：“务必小心”并不足够；作为员工，你需要判断自己实际面对的是哪一类风险。

11 分钟

什么是影子AI？网络安全威胁中的黑马

IBM Technology. 虽然观看次数低于我们通常采用的100K门槛，但它仍值得入选，因为它用很短的篇幅出色地说明了为什么员工使用个人ChatGPT账户处理工作问题，才是多数公司真正面对的风险。Crume所说的“不要只说不行，要说明怎样才行”，与文章采用的立场完全一致——目的不是禁止AI，而是让安全使用成为最省事的默认选择。

13 分钟

攻击LLM：提示词注入

LiveOverflow. 视频将提示词注入描述为一种经典的注入攻击，目标是混合指令与不可信数据的系统，并给出一个具体的内容审核示例：攻击者借此陷害无辜用户。从“模型是攻击目标”转变为“应用才是攻击目标”，正是文章开篇要求建立的思维方式。

17 分钟

保护LLM：防御提示词注入

LiveOverflow. 视频逐一讲解实际的纵深防御方案：对LLM输出进行污点分析、限制预期输出形态、用户隔离、少样本脚手架、微调、使用温度0实现确定性，以及为关键路径设置冗余。它与文章的防御体系章节几乎逐项对应。