人声克隆欺诈:真正管用的中小企业控制措施
中级7 分钟阅读AI安全与数据隐私

人声克隆欺诈:真正管用的中小企业控制措施

三项程序性控制措施,在来电者或视频参与者能令人信服地模仿董事、同事或供应商时,保护中小企业支付与敏感变更。

您应该能够做到的事情

不要让财务人员判断声音是否为合成。让每一项有后果的请求都经过独立渠道、双人审批与有记录的例外流程。

仅在此浏览器中保存。
本文内容

你的财务经理收到总经理的语音留言:供应商出了问题、一桩机密收购、银行关门前需要一笔转账。用词对。声音对。董事确实在出差。

错误的问题是:“财务经理能听出声音是克隆的吗?”

正确的问题是:“任何语音留言能否授权这笔支付?”

深度伪造与人声克隆攻击强化了一种既有欺诈模式:冒充有权限的人、制造紧迫感,并诱导目标脱离正常流程。长期有效的防御是一套程序。无论请求来自邮件、电话、视频会议、遭入侵账户,还是真实高管在匆忙中出错,它都应管用。

身份与授权资格要分别核验。通过独立渠道确认谁在请求该操作,再确认该操作本身符合公司的审批规则。

威胁比假声音更广

冒充尝试可能组合:

  • 伪造或被攻破的邮件账户;
  • 来自社交媒体、日历、发票或遭入侵邮箱的信息;
  • 使用发送者惯用语言写成的逼真文本;
  • 克隆语音留言或实时合成音频;
  • 会议中被操纵的视频或静态头像;
  • 第二位冒充者伪装成律师、供应商、银行或同事;
  • 因事项紧急或机密而施压绕过控制。

FBI的AI辅助网络犯罪警告描述了用于冒充同事与商业伙伴的人声与视频克隆。其当前商业电子邮件诈骗指引建议独立核验支付请求与账户详情变更。上述来源已于2026年7月28日复核。

不要围绕单一渠道或单一生成技术制定政策。应围绕可能造成重大后果的操作制定政策。

控制1:独立回拨

对任何涉及金钱、凭证、敏感记录、薪资或银行详情变更的意外请求:

  1. 结束或暂停来电/来信;
  2. 打开一个单独的、此前受信任的渠道;
  3. 使用公司记录中已有的号码或账户联系请求人;
  4. 核验确切动作:收款方、金额、账户、原因、截止时间;
  5. 记录谁核验了、经哪个渠道。

不要拨打请求中附带的号码。不要让请求人“给你转到财务”。不要把同一会议里的聊天当作独立渠道。

对供应商银行详情变更,应拨打供应商主数据记录中的联系人号码,而非发票或变更通知中的号码。然后要求你方的供应商负责人确认。

回拨不是生物特征测试。它打断攻击者对对话的控制。

控制2:有后果变更的双人审批

任何个人——包括CEO——都不应能在系统外请求并完成实质性支付或敏感账户变更。

定义需要两人的阈值与动作:

  • 新收款方或变更银行详情;
  • 采购订单或合同外的支付;
  • 紧急或机密转账;
  • 薪资收款变更;
  • 释放客户、员工或财务记录;
  • 密码、MFA、恢复或管理员变更;
  • 礼品卡、加密货币或不寻常支付通道;
  • 远程访问安装。

第二审批人应看到原始证据并自行检查。转发“CEO确认了”不是独立审批。

会计或银行平台应尽可能强制职责分离。当系统仍允许仅凭一个凭证完成动作时,单靠政策文件的约束就显得薄弱。

控制3:紧急情况也不得绕过流程

创建例外流程,而不是留下一个披着“例外”外衣的漏洞。

规则可以是:

紧迫性可以缩短响应时间,但绝不能取消独立核验、审批阈值或银行详情检查。

若正常审批人不可用:

  • 使用具名备选;
  • 降低允许金额;
  • 延迟动作;
  • 或按文档规定上报给负责人。

永远不要在可疑对话内临时编造新的审批链。

机密事项仍需控制。应明确允许财务人员说:“我不需要背景,但我确实需要该动作所需的第二审批。”

把控制放进表格

事件必需核验审批记录
现有供应商,正常发票匹配采购证据正常阈值发票与审批人
新的或变更的银行账户回拨主联系人两人联系人、时间、变更、审批
高管紧急支付独立回拨两人;不得因紧急而绕过请求、核验、审批
薪资收款变更经HR记录回拨员工HR与薪资负责人变更工单与确认
提供敏感数据核验请求人与合法目的数据负责人范围、接收方、依据、交付
凭证或MFA重置经批准的身份恢复路径涉及特权访问时由系统负责人审批重置与会话撤销

调整阈值,但不要留下未定义的事件类型。

五分钟员工简报

用场景,而非技术讲座:

“消息、电话或视频可能看起来、听起来完全像董事、同事、银行或供应商。那不改变我们的流程。

“若请求涉及金钱、凭证、敏感数据或账户变更,先暂停。用我们记录中已有的详情发起新联系。核验确切动作,然后使用所需的第二审批。

“紧迫与机密不移除这些检查。这里不会有人因延迟动作以核验而批评你。向 [角色/渠道] 报告可疑联系并保留消息。”

然后问每位参与者:

  • 受信任的供应商号码存在哪里?
  • 今天的备选审批人是谁?
  • 你如何报告可疑请求?
  • CEO能绕过控制吗?

若答案不一致,简报已发现流程缺陷。

排练攻击

开展一次桌面推演,无需创建深度伪造内容:

  1. 给财务一份来自出差董事的虚构紧急请求。
  2. 包含变更的供应商账户与机密要求。
  3. 让正常审批人不可用。
  4. 观察他们用哪个渠道、要求什么证据,以及备选路径是否清晰。
  5. 测试银行与事件联系人。
  6. 记录缺口并修复程序。

无需生成克隆声音。目的是测试决策流程,而非媒体真实感。

在员工或供应商变更后重复演练;对可转移大额资金的工作流,至少每年演练一次。

若已遭遇冒充企图

若尚未发生资金或权限转移:

  • 保留原始邮件、消息、音频、会议详情、号码与邮件头;
  • 通知安全或IT负责人;
  • 检查账户是被攻破还是仅被伪造;
  • 经受信任渠道警告可能目标;
  • 审阅近期支付与账户变更活动;
  • 经适当国家渠道报告该尝试。

若款项已转出:

  1. 立即联系银行,要求其停止或召回转账。
  2. 若银行指示,联系收款机构。
  3. 保留证据并写下时间线。
  4. 锁定或重置被攻破账户,撤销会话,审阅邮箱规则与MFA。
  5. 向执法报告。在爱沙尼亚,RIA的网络安全指引引导网络犯罪受害者至cyber.politsei.ee
  6. 在事件义务要求时,通知客户、员工、保险公司、监管机构或合同伙伴。

不要让尴尬延误银行电话。速度可能影响追回。

技术控制能做什么、不能做什么

有用的支持控制包括:

  • 重要账户的抗钓鱼MFA;
  • 受限的邮箱转发规则;
  • 支付与受益人变更告警;
  • 银行与会计系统中的角色分离;
  • 域名保护与邮件认证;
  • 高管冒充监控;
  • 在支持该功能的场景中,为官方媒体使用Content Credentials。

这些措施会降低攻击机会,并改善可获得的证据。它们不能让来电中的声音变得可信。

深度伪造检测器可能帮助调查者优先处理证据,但不应成为审批关卡。漏报可授权欺诈;误报可阻断正当高管。让程序独立于检测质量。

Content Credentials与溯源可帮助证明你自己官方媒体的来源。它们不能替代支付核验。针对家庭场景的对应指南是识别AI赋能诈骗

诚实的边界

没有控制能消除欺诈。真实高管可施压员工绕过政策。被攻破的供应商可确认欺诈性变更。两个人可犯同样错误。

目标是取消单条消息即可授权的做法、增加独立核验门槛,并让叫停成为常态。这样能防御的远不止人声克隆。它也能减少常见的商业电子邮件诈骗、账户变更欺诈,以及在压力下造成的高成本错误。

不要训练员工判断声音是否真实。给他们一套无需依赖这种判断的流程。

继续阅读

通过下一篇文章继续沿着相同的学习路径进行学习。

深入学习

精选的外部课程,帮助您更深入地了解该主题。

AWS Skill Builder

AWS Security: Securing Generative AI on AWS

AWS Training and Certification

A cloud-vendor-specific complement to the Macquarie specialization: AWS's own Generative AI Security Scoping Matrix, OWASP Top 10 for LLMs, and MITRE ATLAS, walked through governance, legal, and compliance controls for five different AI deployment scopes — from consumer apps to self-trained models. Not GDPR-specific, but a genuinely practical advanced pick for teams whose AI workloads actually run on AWS and need concrete data-governance and compliance controls, not just theory.

高级~2 hours · self-paced (9 modules)
Coursera · Macquarie University

Cyber Security: Data, Privacy and AI Security

Macquarie University Cyber Security Hub faculty

An advanced pick for professionals responsible for both GDPR compliance and AI security: a three-course specialization from Macquarie University's Cyber Security Hub that goes from GDPR/CCPA fundamentals and privacy-by-design, through privacy impact assessments, to a dedicated third course on securing AI systems against adversarial attacks and model leakage. It genuinely bridges the two rather than treating them as separate topics.

高级~47 hours · self-paced (3-course specialization)
EU Digital Skills & Jobs Platform · CyberSuite

Secure AI Adoption for SMEs: Cybersecurity and the EU AI Act

CyberSuite

少有的真正为法案适用对象编写的《人工智能法案》课程:它面向采用AI的中小企业,而不是开发AI的实验室。课程托管在欧盟委员会自有的技能平台上,将法律层面的角色、义务和风险分类,与大多数合规课程忽略的安全问题(提示词注入、数据泄露、供应商尽职调查)结合起来。对于部署AI的爱沙尼亚中小企业,这是切实可行的起点。

高级约15小时 · 自定进度

查看所有 AI安全与数据隐私 课程