主题

AI安全与数据隐私

隐私、数据卫生、安全失效模式、治理和安全的AI连接。

44 项内容 (33 篇文章 · 11 个视频)

从这里开始

浏览完整内容之前,先阅读几篇推荐文章。

此主题下的更多内容

8 分钟阅读
文章

Hermes Agent 第一周:记忆管理、技能与工具审批

Hermes Agent 的安全第一周设置:安装并完成冒烟测试,整理 MEMORY.md 与 USER.md,添加一个技能,限制文件写入范围,并禁用或隔离 shell 访问。

中级
7 分钟阅读
文章

Hermes Webhook:无需巨型万能提示的事件驱动智能体

使用符合事件来源要求的身份验证、8644 端口健康检查和小型命名路由配置 Hermes Agent webhook,让事件触发目标明确、交付位置清楚的智能体运行。

中级
8 分钟阅读
文章

n8n AI 节点的幂等性、重试与人工审批关卡

AI 节点的失败方式不同于 CRUD API。为 n8n 设计重试、幂等键、人工参与的审批关卡与日志,避免不稳定的模型调用重复发送邮件或跳过审核。

中级
8 分钟阅读
文章

从 n8n 调用 vLLM 及其他 OpenAI 兼容端点

通过 n8n 的 HTTP Request 节点调用本地 OpenAI 兼容的 /v1/chat/completions 端点,并明确配置身份验证、超时预算、base URL 检查和私有网络边界。

中级
10 分钟阅读
文章

DGX Spark 上的 NemoClaw:部署与安全计划

规划并评估如何在 DGX Spark 的 NVIDIA OpenShell 中运行 OpenClaw、Hermes 或 Deep Agents Code:当前上手流程、策略层、路由推理,以及上线前必须取得的验收证据。

高级
8 分钟阅读
文章

OpenClaw 允许列表、配对与群组提及安全

渠道允许列表、DM 配对与群组提及规则是 OpenClaw 真正的安全边界,因为工具可能包括 shell、文件与浏览器。本文提供一份实用的锁定清单。

中级
9 分钟阅读
文章

OpenClaw 个人网关设置:安装、初始配置与控制台

OpenClaw 是什么、如何安装并完成自托管多渠道网关的初始配置、在 18789 端口打开 Control UI,以及支持哪些 Node 版本,同时不跳过安全基线。

中级
10 分钟阅读
文章

OpenClaw 技能、心跳自治与审批关卡

了解 OpenClaw 如何加载技能、心跳周期性轮次如何运行、如何限制主机 shell 执行,以及如何通过严格的浏览器策略和经过审查的工作流确认来约束浏览器自动化。

中级
5 分钟阅读
文章

自由职业者的客户AI使用规则

在把客户简报、草稿或数据靠近消费级AI工具之前,写一页个人政策卡:什么永远不粘贴、什么需要客户同意、什么仍由你自己定价与界定范围,以及何时升级给人类专家。自由职业者不会继承雇主的AI政策——你需要自己的。

AI新手
6 分钟阅读
文章

A caregiving handoff that preserves dignity and context

Prepare a caregiving handoff with tasks, observed routines and the person's own preferences. Record sources and dates, then check understanding through a read-back.

初级
8 分钟阅读
文章

Chronic-condition administration: build a care calendar, not a treatment plan

Coordinate appointments, refill requests, forms, transport, and follow-ups on a private board. Keep care-team records and consent notes out of general-purpose chatbots, and send clinical questions to the care team.

中级
7 分钟阅读
文章

在用AI编辑或分享他人照片之前,先取得同意

把朋友的照片上传到AI工具去除背景、替换笑容或变成插画,看似只是一次私下的小修改。对照片中的人来说,这可能是一个影响更大、他们却从未有机会参与的决定。

初级
5 分钟阅读
文章

Finding subscription drift without exposing your bank history

Review transaction history privately for recurring charges and drift, without connecting an AI tool to your bank account or sharing the transaction lines. Leave with a checked candidate list and a cancellation checklist you execute yourself.

初级
5 分钟阅读
文章

Understand a medical document without turning it into medical advice

Use the original document, official glossaries and a four-column worksheet to prepare questions. Keep identifiable records out of public AI tools and interpretation with the care team.

初级
5 分钟阅读
文章

Coordinating an ageing parent's care without losing their voice

Coordinate an ageing parent's care with their voice and permission at the centre. Keep the real consent and care record private; use AI only for generic questions, never to process their health or sharing decisions.

初级
6 分钟阅读
文章

Is this AI product safe for my child's data? A privacy checklist

A seven-point screen for age rules, collection, retention, training, sharing, controls and deletion that records unresolved child-data risks without pretending to certify a product as safe or lawful.

初级
7 分钟阅读
文章

归档家庭照片与故事,而不编造历史

一套兼顾同意与来源信息的流程,用于起草家庭档案的转写文本和说明文字,同时把模型推断与已确认的历史分开,并避免把儿童数据提交给未经批准的工具。

中级
9 分钟阅读
文章

一套帮你检索、而不是囤积的个人知识系统

一套范围明确的「收集到检索」系统:定义使用场景、检索测试、复核日期和删除规则,并警惕敏感笔记、他人数据,以及由服务商托管的账户。

中级
4 分钟阅读
文章

哪些事情不该交给AI:划清个人边界

为一项流程的每个阶段选择运行方式,明确权限、证据、审核和停止渠道。

初级
7 分钟阅读
文章

人声克隆欺诈:真正管用的中小企业控制措施

三项程序性控制措施,在来电者或视频参与者能令人信服地模仿董事、同事或供应商时,保护中小企业支付与敏感变更。

中级
7 分钟阅读
文章

证明什么是真实的:溯源、水印与Content Credentials

C2PA Content Credentials与水印实际能证明什么、截图与重新上传后什么会消失,以及中小企业如何带着诚实的溯源政策发布媒体。

中级
6 分钟阅读
文章

电话里的声音很耳熟:如何识别AI驱动的诈骗

一份冷静、实用的指南,介绍利用语音克隆制造的紧急骗局、冒充消息、虚假媒体,以及经AI润色的诈骗,并提供一套即使假象足以乱真也仍然有效的家庭核实方案。

AI新手
20 分钟
视频

RAG权限与访问控制:深入教程

Paragon. 视频逐步讲解生产环境中的RAG权限问题,并比较工具调用、命名空间、ACL表和基于关系的权限。这直接支持文章的核心规则:检索只能返回当前用户获准查看的来源,而且不能把源系统权限视为事后补充。

高级
30 分钟
视频

解读《欧盟人工智能法案》:将合规转化为竞争优势|Carme Artigas

MSP GLOBAL. Carme Artigas主持了促成EU AI Act的欧盟理事会谈判,并在视频中面向许多中小企业采购AI系统时使用的托管服务提供商讲解该法案。她按照当时的理解梳理了时间表,从2025年8月的GPAI行为准则,到2026年8月的一项合格评定节点,并讨论供应商文件。此后,[AI Omnibus,即Regulation (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202601744)将相关Chapter III高风险要求调整为:Annex III系统自2027年12月2日起适用,Annex I涵盖的系统自2028年8月2日起适用。系统清点、供应商证据和责任归属工作仍然有用,但视频中的日期仅具有历史参考价值。

高级
69 分钟
视频

智能体生态:将智能体投入生产后得到的经验

MLOps.community. Prosus的AI副总裁和一位AI工程师讲述了他们在集团旗下公司部署智能体时真正出现的问题:上线前进行提示词注入渗透测试;Jira智能体无法理解人类简写而执行了不安全的写入;通过让智能体明确展示自身假设来处理陈旧上下文;以及在降级设计中,一旦智能体增加认知负担,就将其合并或停用。这就像把文章中的失败模式登记表搬进了一场现场复盘。

高级
7 分钟
视频

用Docling提升RAG与AI智能体

IBM Technology. 视频讲解RAG和智能体的摄取环节:如何准备PDF和其他文件,使文档结构、表格和版面布局能够保留到后续检索阶段。这印证了文章的提醒:RAG的质量与安全始于嵌入之前,解析复杂业务文档时尤其如此。

高级
9 分钟阅读
文章

AI工作流中的人在回路设计模式

人工审核并不是含糊的安全保障。本文提供一份实用指南,帮助你确定在AI工作流中,哪些事项应由人工审批、抽查、审计、升级处理,或绝不交由AI完成。

中级
11 分钟阅读
文章

RAG 的安全文档摄取:PDF、OCR、元数据与保留策略

RAG 质量始于检索之前。本文是一份安全摄取指南,涵盖 PDF、OCR、元数据、权限、来源时效性、删除、恶意软件风险和运营责任归属。

高级
9 分钟阅读
文章

AI 投资回报率与成熟度:如何衡量真正有效的采用情况

衡量 AI 应用成效,不能只看有多少人尝试过 ChatGPT。本文提供一个衡量工作流投资回报率、质量、风险、成熟度和规模化准备程度的实用框架。

高级
10 分钟阅读
文章

企业知识RAG:权限、泄露与来源边界

只有检索过程遵守权限,企业知识助手才是安全的。本文介绍如何设计RAG来源边界、ACL筛选、文档责任归属、日志记录、过时来源处理和拒绝行为。

高级
10 分钟阅读
文章

生产AI失败模式:演示之后会出什么问题

AI系统通常以可预测的方式失败:幻觉、上下文过时、过度迎合、提示词注入、不安全的工具调用、模式漂移和薄弱的降级机制。这是一份面向真实工作流交付团队的生产AI失败模式清单。

高级
9 分钟阅读
文章

EU AI Act for SMEs: a practical governance plan

The EU AI Act is not just a legal problem for large vendors. A practical SME plan for inventory, risk classification, human oversight, transparency, vendor records, and rollout discipline.

高级
10 分钟阅读
文章

私有 AI 部署模式:本地、VPC、自托管和混合

私有 AI 并非单一架构。本文面向重视隐私和控制权的中小企业,对比本地模型、企业 SaaS、VPC 部署、自托管推理和混合模式。

高级
10 分钟阅读
文章

安全地将 AI 连接到电子邮件、日历和 CRM 系统

一份基于风险的指南:以最小权限、审批关卡、受保护的审计证据、负向测试与恢复路径,把AI连接到电子邮件、日历和CRM。

中级
25 分钟
视频

OWASP攻击LLM的10种方式:AI漏洞揭秘

IBM Technology. 视频从提示词注入扩展到更全面的OWASP LLM十大风险——不安全的输出处理、敏感信息泄露、过度代理等。在向任何工具授予Gmail或HubSpot权限范围之前,你正需要在脑中备好这份故障模式清单。

中级
11 分钟
视频

什么是提示词注入攻击?

IBM Technology. Jeff Crume用“以$1购买一辆SUV”的例子,在10分钟内极其清楚地解释了为什么直接提示词注入与间接提示词注入是两类不同的问题,以及为什么过滤无法彻底解决任何一类。这与文章的论点直接呼应:对于任何不可逆操作,你需要最小权限范围、专用智能体账号和人在回路机制,而不是更巧妙的系统提示词。

中级
93 分钟
视频

Sam Altman|Theo Von访谈节目This Past Weekend第599期

Theo Von. 大约在第十二分钟,Altman承认与ChatGPT的对话不受法律特权保护,而且在诉讼中OpenAI可能会被要求交出这些对话。这是关于该话题引用最广的一段视频,值得听他亲口说明,而不是通过新闻片段了解。后面的谈话涉及许多其他话题,但仅这段对话就诚实回答了文章提出的问题:“公司究竟会如何处理我输入的内容?”

AI新手
13 分钟
视频

如何保障AI商业模型的安全

IBM Technology. IBM的发布说明介绍了Jeff Crume对生成式AI隐私、准确性和安全风险的解释,以及应对这些风险的框架。用这些背景知识找出文章所述获批数据路径中需要核对的问题。

初级
11 分钟
视频

什么是影子AI?网络安全威胁中的黑马

IBM Technology. IBM的发布说明涉及影子AI、数据外传、访问控制和模型投毒。将这些概念与文章中具体工具的审批及事故报告核查结合;不要凭这段视频推断组织中最常见的风险。

初级
13 分钟
视频

攻击LLM:提示词注入

LiveOverflow. 视频将提示词注入描述为一种经典的注入攻击,目标是混合指令与不可信数据的系统,并给出一个具体的内容审核示例:攻击者借此陷害无辜用户。从“模型是攻击目标”转变为“应用才是攻击目标”,正是文章开篇要求建立的思维方式。

高级
17 分钟
视频

保护LLM:防御提示词注入

LiveOverflow. 视频逐一讲解实际的纵深防御方案:对LLM输出进行污点分析、限制预期输出形态、用户隔离、少样本脚手架、微调、使用温度0实现确定性,以及为关键路径设置冗余。它与文章的防御体系章节几乎逐项对应。

高级