了解、检测和预防企业人工智能语音欺诈的综合指南
从未发生过的 $25 百万语音通话
2024 年 2 月，香港一家跨国公司的财务人员接到首席财务官的视频电话。
电话那头的声音清晰无误，每一个音调、每一个停顿，甚至是轻微的口音都能被立即辨认出来。
他紧急要求她处理 15 笔电汇，总计 $.25 百万美元，以完成一项机密收购。
首席财务官从未打过这个电话。这完全是人工智能生成的。
这并非个案。金融机构的深度伪造欺诈案正在急剧上升。
在过去的三年里，案件数量猛增了 2 137%，目前人工智能驱动了该行业 42.5% 的欺诈企图。
即使在人工智能语音欺诈激增的情况下，仍有一半以上的企业领导者承认，他们的员工没有接受过发现或应对深度伪造攻击的培训；近 80% 的公司没有制定处理这些事件的正式协议。
人工智能语音克隆的工作原理和威胁原因
现代人工智能语音合成所需的数据量少得惊人。短短几秒钟的音频就能克隆出准确度高达 85% 的声音。
这一过程可归结为三个主要步骤：
- 数据收集： 骗子从电话会议、播客访谈、社交媒体剪辑甚至 LinkedIn 视频帖子等公开渠道收集语音样本。
- 模型培训： 人工智能可分析声调、音色、口音、节奏和呼吸模式等声音特征。
- 世代相传： 该系统能生成令人信服的合成语音，甚至能骗过关系密切的同事。
无障碍问题
使这种威胁更加危险的是它的民主化。骗子不再需要好莱坞级别的资源。
只需一个简单易用的软件，就能从社交媒体短片中克隆出声音；开源工具和基于云的人工智能服务已使任何具备基本技术技能的人都能使用语音克隆技术。
为什么高管是欺诈的首要目标？
高管们面临着各种危险的风险因素。
他们通过社交媒体公开亮相，使语音样本很容易找到，他们的权威性往往促使员工对紧急请求迅速采取行动。
平均每四位高管中就有一位对深度伪造技术了解有限。
目前的统计数据令人担忧
在一个 2024 德勤调查25.9%的高管表示，在过去一年中，他们的组织至少遇到过一次针对财务或会计数据的深度伪造事件，而所有受访者中有一半认为，在未来12个月中，此类攻击将会增加。
最令人担忧的是：只有 52% 的组织有信心识破对其首席执行官的深度伪造。
如何识别人工智能语音诈骗
当您收到可疑的语音通信时，有几个警告信号值得注意。
人工智能语音诈骗通常听起来单调或平淡。你可能还会注意到不寻常的节奏，比如奇怪的停顿或不自然的节奏。
音频还可能带有微弱的电子嗡嗡声或回声，尤其是在通话时间较长时。
在许多情况下，声音会重复有限的短语，让人觉得是照本宣科或排练过的。
财务影响和实际成本
大多数组织平均损失约 $450,000 美元，但金融服务部门的损失攀升至 $603,000 美元以上。
在最严重的情况下，每 10 个组织中就有 1 个组织报告损失超过 100 万美元。
这一趋势发展迅速。2022 年的早期研究表明，身份欺诈造成的平均经济负担约为 $230,000 美元，几乎是目前数字的一半。
预计未来损失
根据德勤金融服务中心（Deloitte's Center for Financial Services）的数据，美国因人工智能欺诈而损失的资金将从 2023 年的 123 亿美元增至 2027 年的 400 亿美元。每年增长约 32%。
地区脆弱性
北美地区的深度伪造欺诈增加了 1740%。
这一地区性的大幅增长表明，北美可能是深度伪造欺诈者的主要目标，这很可能是因为其庞大的数字经济和在线服务的广泛使用。
执行保护的战略方法
1.执行核查协议
加强防御的方法之一是使用 "安全词 "系统，即与关键人员共享事先商定的验证短语。
使用人工智能语音克隆的骗子不会知道个人验证问题的正确答案。
另一项保障措施是多渠道验证。
任何不寻常的财务要求都应通过单独的沟通渠道进行确认，绝不能仅依靠最初的联系方法。
公司还应制定明确的升级规则，规定大额金融交易的等待时间和审批步骤，无论谁提出申请。
2.注意数字曝光
另一层保护措施是限制网上提供的执行音频和视频的数量。骗子收集的样本越多，他们的克隆就越有说服力。
为高管制定明确的社交媒体指导原则也很有帮助，尤其是在发布音频清晰的视频方面。
在会议上，各组织应注意录制的谈话或访谈是否会泄露很长的语音样本。
3.部署技术解决方案
这正是先进的人工智能检测技术的关键所在。
企业需要企业级语音身份验证和 深层伪造检测 提供的能力：
- 实时分析： 检测现场通信中的合成声音
- 历史验证： 分析录音电话和信息的真实性
- 整合能力： 与现有通信平台无缝协作
- 准确率高： 最大限度地减少误报，同时捕捉复杂的假货
4.综合培训计划
领导团队需要就人工智能语音威胁和验证程序进行有针对性的培训。
同样重要的是提高员工的意识。
每个人，无论担任什么角色，都应具备识别潜在深度伪造的能力，防止网络威胁进入组织。
定期的模拟演习可以通过使用模拟语音欺诈尝试来测试和完善响应程序，从而加强这种准备状态。
先进的人工智能语音检测解决方案
传统的防御系统是针对网络威胁建立的，而不是针对人工智能驱动的人类假冒行为。
标准网络安全工具无法应对语音社交工程的主要原因：
- 无恶意软件签名： 语音呼叫不会触发传统的安全系统
- 人的信任因素： 人们自然会相信自己听到的声音，尤其是熟悉的声音
- 检测技术差距： 尽管人工智能驱动的欺诈企图（包括深度伪造）有所增加，但只有 22% 的金融机构实施了基于人工智能的欺诈预防工具
专业语音检测的必要性
现代语音欺诈需要现代化的检测能力。
企业级 人工智能语音检测系统 可以：
- 分析声乐生物标志物 检测合成语音中细微的不一致之处
- 实时处理： 在可疑来电时立即发出警报
- 持续学习： 适应新的语音合成技术
- 集成就绪： 与现有通信基础设施合作
认真防范语音欺诈的企业需要投资专门构建的人工智能检测技术，以应对所面临威胁的复杂性。
语音欺诈就在眼前，而且愈演愈烈
2025 年第一季度，深度伪造欺诈和身份盗窃造成的损失超过 $.2 亿美元。
利用人工智能克隆的语音钓鱼跃升 442%，每天有 400 多家企业遭遇深度伪造 CEO 或 CFO 的诈骗。
虽然有 56% 的企业表示他们对识别深度假冒产品很有信心，但实际上只有 6% 的企业避免了因深度假冒产品而遭受经济损失。
重要的不是你的组织是否会成为攻击目标，而是你是否做好了准备。
语音欺诈正在改变网络安全的面貌。传统的防御措施跟不上人工智能驱动的冒充行为。
为了保持保护，组织需要更好的检测工具、强大的培训计划和明确的验证程序。
反击技术已经出现。真正的问题是，您会在第一次语音欺诈事件发生之前还是之后使用它。