在过去 12 个月里，商业界基于 Deepfake 的欺诈活动激增。
"(《世界人权宣言》) Pindrop 2025 年语音智能与安全报告 显示，基于语音的攻击已激增到 1300%，比以前每月发生的次数还多，因为现在每天发生七次。
该报告对 12 亿次客户来电进行的研究证明，这一发展所代表的不仅仅是标准的网络犯罪增长，因为它标志着欺诈操作方法的全面转变。
增长模式没有循序渐进的迹象。这种快速的颠覆导致了以信任为基础的经济体系的彻底转型。
多项统计数据显示了这一危机发展的全面程度。
根据身份盗窃资源中心的记录，在 2024 年 4 月至 2025 年 3 月期间，冒名顶替诈骗案上升了 148%。
2024 年的欺诈损失总额达到 $166 亿美元，比 2023 年的数字增加了 33%。
人工智能技术的进步将欺骗变成了一种工业化运作，在工业层面开展活动。
接触高层管理人员
财务深层伪造攻击针对的是超过 25% 的管理财务和会计业务的执行系统。
预测明年金融深度伪造攻击将上升的高管人数已超过 50%。
工业化攻击剖析
声音克隆：从分钟到瞬间
在过去几年中，人工智能语音模型的发展突飞猛进。
基本的免费软件使用户能够通过简短的语音录制来创建合成语音，而过去这需要大量的音频资料和专业工具，需要多天才能完成。
人工语音输出与人类发声的自然质量相匹配。
各行业的影响:
- 在此期间，保险行业的合成语音攻击增加了 475%。
- 银行业记录的语音欺诈活动增加了 149%。
- 预计在未来五年内，联络中心将遭受 $445 亿美元的潜在欺诈损失。
- 每次安全事故平均给企业造成 $600,000 美元的损失。
欺诈的新面孔：狡猾而精明
现在，骗子们采用了先进的深度伪造攻击，这种攻击超越了基本的诈骗电子邮件，因为他们的攻击语法完美无瑕，而且会在适当的时候出现，看起来非常真实。
这些攻击可以绕过程序化的安全系统和人类的判断过程。
案例研究：WPP 的险情
犯罪分子试图通过创建一个假冒 WPP 首席执行官的 WhatsApp 账户，将模仿马克-雷德声音的克隆语音与 YouTube 视频播放相结合，伪造马克-雷德的面部表情，同时利用公共领域录制的视频，实施精心策划的诈骗计划。
攻击者通过 Microsoft Teams 实施攻击，并通过冒充方法和社交工程策略发送令人信服的虚假信息，以制造虚假的业务紧迫感。
攻击者达到了几乎成功实现目标的地步。
袭击者的骗局之所以没有得逞，是因为他们的叙述中出现了一些小的前后矛盾之处，让受害者对他们的故事产生了怀疑。
这一事件证明，先进的人工智能欺骗技术因其逼真和复杂的性质，即使是经验丰富的专业人员也会被骗。
亚太地区：全球热点
亚太地区已成为全球人工智能欺诈活动的中心。与 2023 年相比，2024 年与人工智能相关的攻击数量增加了 194%。
为什么选择这里？该地区数字支付普及速度快，但欺诈保护系统不足，这为攻击者提供了绝佳的作案环境。
主要地区数据:
- 每起事故的平均经济损失达 $600,000 美元。
- 在所有案件中，追回的被盗资金仍低于 5%。
- 与 Deepfake 相关的金融损失超过 $1 百万美元，受影响的金融机构超过 10%。
该地区是人工智能欺诈的主要目标，因为员工可以远程工作，语音合成工具也很容易获得。
超越语音：多载体欺诈来了
704% 换脸攻击激增
根据 iProov 的数据，2023 年期间，换脸攻击的数量增加了 704%，而移动网络注入欺诈则增加了 255%。
目前，欺诈未遂案件总数包括 42.5% 起人工智能生成的欺诈未遂案件，其中 30% 起案件成功。
所报告的安全事件表明，影响不同系统的威胁在不断发展。
企业脆弱性矩阵
- 2024 年，零售业的欺诈活动增加了 107%，专家预测 2025 年欺诈案件将翻一番。
- 攻击者利用深度伪造的身份绕过保护 KYC 流程的身份验证系统。
- 人工智能系统会生成人工面部轮廓，从而欺骗面部识别系统。
- 攻击者使用合成内容，通过文件伪造方法生成欺骗性法律文件和凭证。
布拉德-皮特案人工智能心理欺诈
一名法国室内设计师成为了一场复杂的人工智能诈骗的受害者，他在多个月内向骗子转账了近 $1 百万美元。
攻击战略：
- 冒名顶替者最初是冒充布拉德-皮特的母亲与受害人联系的。
- Deepfake 音频和人工智能生成的图像有助于长期保持这种错觉。
- 伪造的医疗记录和看似合法的文件为这一骗局增添了一层可信度。
- 几个月来，多媒体内容一直让人对假身份深信不疑。
一个对技术并不陌生的人成了一个直接骗局的受害者。
受害者是一名企业主，他一直不知道自己在与人工智能互动。
这起事件表明，现代深度伪造技术可以达到先进的欺骗水平。
检测差距：为什么大多数公司都没有做好准备
高层的意识危机
由于没有制定足够的防御策略，各组织很难抵御日益增多的攻击。
- 25% 个组织的领导者对深度伪造技术操作的了解有限。
- 由于 32% 的深度伪造攻击仍不确定，各组织很难确定自己检测深度伪造攻击的能力。
- 一半以上的组织没有为员工提供有关人工智能威胁的培训。
- 大多数组织没有既定计划或具体协议来处理深度伪造威胁。
对于开始缩小准备差距的组织而言，可以使用以下工具 真相扫描 迈出了关键的第一步。
TruthScan 专为实时人工智能内容检测而设计，可标记出多种格式的可疑视觉效果、文本和媒体，帮助团队在造成损害之前发现合成篡改。
人为因素的脆弱性
McAfee 的研究表明 70% 的人分辨不出真假声音.
40% 的人会回复语音邮件，因为他们认为这是他们所爱的人需要帮助。
当前对企业安全最危险的威胁来自人工智能生成的逼真内容与心理操纵技术的结合。
技术差距正在扩大
$40 亿美元的问题
德勤预测，到 2027 年，美国基于人工智能的欺诈将达到 $40 亿美元，而目前 2023 年的估计值为 $123 亿美元。
根据预测，这一时期的年增长率将达到 32%。
经济影响包括
- 直接的经济损失是通过合成欺诈活动造成的。
- 个人身份被盗和个人信息被滥用的情况时有发生。
- 由于法证调查需要时间，业务运营受到干扰。
- 企业必须支付监管处罚，因为他们没有实施适当的数据保护措施。
- 企业的信息向公众公开后，其声誉会受到永久性损害。
面临风险的联络中心
到 2025 年，每 56 个客户服务电话中就会有一个是零售欺诈案件。由于人工智能驱动的欺诈活动将大量增加，联络中心的危机将进一步恶化。
各国政府开始做出反应
在美国
- 联邦贸易委员会制定了新规则，防止用户使用语音冒充软件。
- 联邦调查局现在提醒公众注意使用人工智能技术的网络钓鱼攻击。
- 美国多个州颁布了新的立法，重点监管深度伪造技术。
全球
- 欧盟人工智能法》要求所有人工智能生成的内容都必须有明显的人工智能制作痕迹。
- 一些国家已经制定了国际协议，以便在不同国家执行其法律。
- 人工智能平台必须证明其系统有防止未经授权使用其技术的措施。
合规机会
如今，实施先进人工智能欺诈检测系统的企业将成为市场的领导者。
这些组织将比其他组织更早满足即将出台的法规要求，因为其竞争对手必须花时间迎头赶上。
新的安全范例
1300% 深度伪造攻击的兴起，使数字信任运营已不仅仅是一个网络安全问题。
战略转移：
- 现代威胁已经超越了现有的外围防御系统，这些系统已无法提供足够的保护。
- 在该领域工作多年的安全专家现在遇到了他们无法抵御的深度伪造攻击。
- 目前的 "信任但核查 "方法已不再有效，因为核查需要成为一项永久性的操作程序。
- 需要部署实时检测系统，因为人工发现方法无法在威胁变成威胁之前将其检测出来。
未来属于有准备的人
企业需要做出选择，要么立即部署人工智能检测系统，阻止深度伪造欺诈在 2025 年达到预测的 155% 增长率，要么冒着系统被公开披露的风险。
现在行动起来的组织将捍卫其财务健康，同时建立信任体系，确保其在未来人工智能市场中的领导地位。
最先发现人工智能威胁并迅速部署解决方案的公司将在人工智能与人工智能之战中取得成功。
参考资料
- 品德派（2025 年 6 月 12 日）:"Pindrop 2025 年语音智能与安全报告》--1,300% 深度伪造欺诈激增，呼叫分析数据
- Unite.AI (20 小时前):"深度伪造、声音克隆助长了人工智能冒充诈骗 148% 的激增" - 身份盗窃资源中心统计数据
- 第 IB 组（2025 年 8 月 6 日）:"剖析 Deepfake 语音钓鱼攻击"--亚太地区 194% 激增、金融影响数据
- 摩根大通 (2025):"人工智能诈骗、深度伪造、冒名顶替" - $166 亿欺诈损失，33% 增长
- Incode（2024 年 12 月 20 日）:"2024 年人工智能深度伪造欺诈的五大案例"--德勤高管调查，WPP 案例详情
- Eftsure US (2025):"深度伪造统计数据（2025 年）：面向首席财务官的 25 项新事实" - 培训差距、员工信心统计数据
- 安全网（2025 年 8 月 26 日）:"2024 年深度伪造指南和统计数据"--语音克隆受害者统计数据、监管格局
- 美国律师协会（2025）:"Deepfake 骗局告诉我们什么是人工智能和欺诈"--布拉德-皮特案例研究、法律意义
- 阿克西奥斯（2025年3月15日）:"人工智能语音克隆诈骗：持续存在的威胁"--《消费者报告》研究，美国联邦贸易委员会冒充数据