2025年6月、グーグルの従業員がITサポートから定期的な電話と思われるものを受け取った。
電話の声はプロフェッショナルで自信に満ち、すっかり聞き慣れたものだった。
技術者は従業員に、会社のセールスフォース・システムで新しいアプリを承認するよう頼んだ。
攻撃者は数分以内にアクセスし、グーグルのCRMから255万件の顧客記録を盗み出した。
これを可能にしたのはディープフェイク・オーディオ技術で、AIが生成した声は非常に説得力があり、最も信頼できる認証のひとつである同僚の声を認識することを欺いた。
ShinyHuntersグループに関連するこの事件は、攻撃者が人工知能を使って企業システムに侵入していることを示している。
世界中の何百万もの組織の顧客関係管理を支えるSalesforceは、AIを駆使した新世代のソーシャル・エンジニアリング攻撃の主な標的の1つとなっている。
セールスフォースがディープフェイクの標的になった理由
セールスフォースの成長は、データ盗難の大きな標的にもなっている。
すべてが一元化されているため、たった一度の違反で、さまざまな企業の何百万もの顧客記録が暴露される可能性がある。
WithSecureの脅威インテリジェンス責任者、ティム・ウェストはこう指摘する：
もうAI詐欺を心配する必要はない。 TruthScan あなたを助けることができる：
- AIが生成したものを検出する 画像、テキスト、音声、ビデオ。
- 避ける AIによる大規模な詐欺
- 最も大切なものを守る 繊細 企業資産。
「Scattered Spiderのようなハッキング・グループは、SaaS環境にアクセスするためにソーシャル・エンジニアリングを展開している。彼らの攻撃は技術的には単純に見えるかもしれないが、だからといって危険度が下がるわけではない。"
WithSecureの新しい調査によると、Salesforce環境内の悪意のある活動は2025年第1四半期に急増し、検出数は2024年後半と比較して20倍に増加しました。
ディープフェイクがセールスフォースの情報漏洩を引き起こした理由
最近の攻撃が特に危険なのは、ディープフェイク技術がニッチなツールから、誰もが武器として使えるものへと変化したことだ。
データベースに直接侵入する従来のデータ侵害とは異なり、サイバー犯罪者は現在、音声ベースのソーシャル・エンジニアリング、すなわち "ビッシング "を利用している。ディープフェイクやAIによるボイスクローニングの台頭により、こうした攻撃を見破るのはかなり難しくなっている。
Salesforceの顧客に対するShinyHuntersのキャンペーンは、伝統的なソーシャル・エンジニアリングと最先端のAIの欺瞞を組み合わせた効果的なプレイブックに従っている：
フェーズ1：音声情報収集
攻撃者はまず、公的な情報源、経営陣のプレゼンテーション、電話会議、会社のビデオ、ソーシャルメディアへの投稿などから音声サンプルを採取する。
わずか20～30秒のクリアな音声で、説得力のある声マネを作ることができる。
第2段階：ディープフェイクのビッシング・コール
ヴィッシングコールでは、攻撃者は被害者がSalesforceの接続アプリのセットアップページにアクセスし、ブランディングをわずかに変更した偽バージョンのData Loaderアプリを承認するように仕向けます。
これにより、被害者は知らず知らずのうちに攻撃者にSalesforceから機密データを盗み取られてしまう。
その巧妙さには目を見張るものがあります。場合によっては、攻撃者はディープフェイク・オーディオを使用して従業員になりすまし、ヘルプデスクのスタッフに不正アクセスを許可するよう説得していました。
これは、攻撃者が単に権威者のふりをしていた従来のボイス・フィッシングから、AIによって強化されたなりすましへと大きく進化したことを意味する。
フェーズ3：OAuthの悪用
悪意のあるアプリケーションが認証されると、攻撃者は多要素認証を完全にバイパスする。
偽アプリが承認された後、攻撃者は長寿命のOAuthトークンを取得し、多要素認証を回避し、通常のセキュリティ警告を発することなく操作できるようにする。
フェーズ4：サイレント・データ抽出
GoogleのThreat Intelligence Groupは、脅威者がPythonツールを使用して、標的となった各組織のデータ盗難プロセスを自動化したことを警告しており、研究者は700以上の組織が影響を受けた可能性があると認識している。
なぜ私たちはAIの声に弱いのか
こうした攻撃の成功は、人間の基本的な特性である「聞いたことを信用する傾向」を悪用している。
最近のある世界的な調査によると、70％の人が本物とクローン音声を識別する自信がないと答えている。
この脆弱性は、ヘルプデスクスタッフが親切で親身に対応するよう訓練され、リモートワークによって音声のみのやりとりが常態化している企業環境では、さらに深刻になる。
CrowdStrikeの2025 Global Threat Reportによると、2024年の前半から後半にかけて、音声によるフィッシング（ビッシング）攻撃が442%増加し、AIが生成したフィッシングやなりすましの手口がその原動力となっている。
$2500万ドルのモーニングコール
ディープフェイクを利用した攻撃の影響は、セールスフォースだけにとどまらない。
2024年初頭にエンジニアリング会社Arupで発生した$2500万のディープフェイク強盗事件では、攻撃者がAIを使ってビデオ通話で複数の幹部になりすました。
同様の攻撃は、フェラーリのベネデット・ヴィーニャCEOになりすまそうと、彼の南イタリア訛りを模倣したAIクローン音声通話を使用するなど、さまざまな業界の幹部も標的にしている。
これらの事件は、セキュリティ専門家が「CEO詐欺2.0」と呼ぶもので、単純な電子メールのなりすましにとどまらず、経験豊富な経営幹部でさえも欺くことができる多感な欺瞞を作り出す攻撃である。
プラットフォーム・セキュリティと人間の脆弱性
セールスフォースは、これらの侵害は同社のプラットフォーム自体の脆弱性を示すものではないと強調している。
セールスフォースは2025年3月、UNC6040のキャンペーンを認め、攻撃者がITサポートになりすまして従業員を騙し、認証情報を渡したり、悪意のある接続アプリを承認させたりしていると警告した。
同社は、これらのインシデントは、同社のプラットフォームの脆弱性が関与したものでも、それに起因するものでもないと強調している。
これは、すべてのSaaSプロバイダーにとって大きな課題である、技術的欠陥ではなく人間の信頼につけ込む攻撃を阻止する方法を見つけ出すということを示している。
セールスフォースはいくつかの防衛策を講じている：
- 接続アプリの堅牢化：新規ユーザーに対して、インストールされていない接続アプリを自動的に無効にする。
- OAuth フローの制限：特定の認証プロセスを使用して取得した接続を無効にする
- モニタリングの強化：不審なアプリケーション承認パターンの検出を強化
- ユーザー教育ソーシャル・エンジニアリングの試みを認識するためのガイダンスの発行
2025年8月、セールスフォースは、関連する攻撃でOAuthトークンが盗まれたことが判明したため、Driftアプリを含むSalesloftテクノロジーとの統合をすべて停止した。
セキュリティの専門家たちは、音声がAIによって生成されたものであることを明らかにするためには、奇妙な間やバックグラウンドノイズ、音声の不具合など、微妙な手がかりに耳を傾ける必要があると警告している。
企業の対応テクノロジー・ソリューションを超えて
組織は、ディープフェイク攻撃を防御するには、技術的な解決策以上のものが必要であり、信頼と検証のプロセスを根本的に見直す必要があることを認識し始めている。
ゼロ・トラスト・コミュニケーション
Beyond IdentityのRealityCheckは、暗号化されたデバイス認証と継続的なリスクチェックに裏打ちされた、目に見える検証済みIDバッジを参加者全員に提供し、現在ZoomとMicrosoft Teamsで利用可能です。
このようなソリューションは、企業コミュニケーションにおける「決して信用せず、常に検証する」モデルへのシフトを意味する。
強化されたトレーニング・プログラム
リセンブルAIのディープフェイク・シミュレーション・プラットフォームを使用している組織は、ディープフェイク攻撃が現実世界でどのように展開するかを説明するために超リアルなシミュレーションを利用するこのプラットフォームを導入した後、成功した攻撃が最大90%減少したと報告しています。
マルチチャンネル検証
先進的な組織では、リスクの高い要求に対しては、最初のコミュニケーションがいかに真正に見えるかにかかわらず、複数のチャネルを通じた検証を要求するプロトコルを導入している。
声が真実でなくなるとき
セールスフォースやその他の企業システムに対するディープフェイクの脅威は、サイバーセキュリティの歴史における変曲点を表している。
初めて、攻撃者は権威ある人物になりすますことができるようになっただけでなく、実際にそのような人物になりすまし、そのような人物に見えるようにし、訓練を受けたセキュリティの専門家にさえ組織のセキュリティを危険にさらす行動をとらせることができるようになったのだ。
AIが欺瞞を生み出す時代には、信頼は、親しみやすさによって想定されるものではなく、検証によって獲得されなければならない。
このことを理解し、適切なツール、プロセス、企業文化に投資する企業は、不確実性が増すデジタル世界でセキュリティと信頼の両方を守るための最良の立場に立つことができるだろう。
この新しい現実では、電話の向こうの声は見かけとは違うかもしれない。
ディープフェイクの時代には、不断の警戒が安全の代償となる。