2025년 6월, 한 Google 직원이 IT 지원팀으로부터 일상적인 전화로 보이는 전화를 받았습니다.
수화기 너머로 들려오는 목소리는 전문적이고 자신감 넘쳤으며 완전히 친숙한 목소리였습니다.
기술자는 직원에게 회사의 Salesforce 시스템에서 새 앱을 승인해 달라고 요청했습니다.
공격자들은 몇 분 만에 Google의 CRM에 액세스하여 255만 개의 고객 기록을 훔쳤습니다.
이를 가능하게 한 것은 딥페이크 오디오 기술의 사용으로, 가장 신뢰할 수 있는 인증 방식 중 하나인 동료의 목소리를 인식할 수 있을 정도로 설득력 있는 AI 생성 음성을 사용했습니다.
샤이니헌터스 그룹과 연관된 이 사건은 공격자들이 인공지능을 이용해 기업 시스템에 침입하는 방법을 보여줍니다.
전 세계 수백만 조직의 고객 관계 관리의 중추인 Salesforce는 차세대 AI 기반 소셜 엔지니어링 공격의 주요 표적이 되고 있습니다.
Salesforce가 딥페이크의 표적이 된 이유
Salesforce의 성장으로 인해 데이터 도난의 주요 표적이 되기도 했습니다.
모든 것이 중앙 집중식으로 관리되기 때문에 한 번의 유출로 여러 회사의 수백만 고객 기록이 노출될 수 있습니다.
위드시큐어의 위협 인텔리전스 책임자 팀 웨스트는 다음과 같이 말합니다:
다시는 AI 사기에 대해 걱정하지 마세요. TruthScan 도움을 드릴 수 있습니다:
- 생성된 AI 감지 이미지, 텍스트, 음성 및 동영상
- 피하기 주요 AI 기반 사기
- 가장 중요한 정보 보호 민감한 기업 자산.
"스캐터드 스파이더와 같은 해킹 그룹은 SaaS 환경에 접근하기 위해 소셜 엔지니어링을 사용합니다. 이들의 공격은 기술적으로 단순해 보일 수 있지만 그렇다고 해서 덜 위험한 것은 아닙니다."
새로운 WithSecure 연구에 따르면, 2025년 1분기에 Salesforce 환경 내 악성 활동이 급격히 증가하여 2024년 말에 비해 탐지 건수가 20배 증가했습니다.
딥페이크가 Salesforce 침해 사고를 일으킨 방법
최근의 공격이 특히 위험한 이유는 딥페이크 기술이 틈새 도구에서 누구나 무기로 사용할 수 있는 도구로 바뀌었기 때문입니다.
데이터베이스를 직접 침입하는 기존의 데이터 침해와 달리 사이버 범죄자들은 이제 음성 기반 소셜 엔지니어링, 즉 "비싱"을 사용하고 있습니다. 딥페이크와 AI 음성 복제의 등장으로 이러한 공격은 발견하기가 훨씬 더 어려워지고 있습니다.
Salesforce 고객을 대상으로 한 ShinyHunters 캠페인은 전통적인 소셜 엔지니어링과 최첨단 AI 속임수를 결합한 효과적인 플레이북을 따릅니다:
1단계: 음성 정보 수집
공격자는 공개 소스, 경영진 프레젠테이션, 컨퍼런스 콜, 회사 동영상 또는 소셜 미디어 게시물에서 오디오 샘플을 수집하는 것으로 시작합니다.
20~30초 정도의 선명한 오디오만으로도 설득력 있는 음성 복제품을 만들 수 있습니다.
2단계: 딥페이크 피싱 전화
공격자는 피싱 전화를 통해 피해자가 Salesforce의 연결된 앱 설정 페이지로 이동하여 브랜드를 약간 변경하여 위장한 가짜 버전의 데이터 로더 앱을 승인하도록 유도합니다.
이로 인해 피해자는 자신도 모르게 공격자가 Salesforce에서 중요한 데이터를 훔치도록 허용하게 됩니다.
그 정교함은 놀랍습니다. 공격자는 딥페이크 오디오를 사용하여 직원을 사칭하고 헬프 데스크 직원을 설득하여 악성 액세스를 승인하도록 하는 경우도 있습니다.
이는 공격자가 단순히 권위자를 사칭하던 기존의 보이스 피싱에서 AI를 활용한 사칭으로 진화하여 실제로 특정 인물처럼 들릴 수 있게 된 것을 의미합니다.
3단계: OAuth 익스플로잇
악성 애플리케이션에 권한이 부여되면 공격자는 멀티팩터 인증을 완전히 우회합니다.
가짜 앱이 승인되면 공격자는 수명이 긴 OAuth 토큰을 획득하여 멀티팩터 인증을 우회하고 정상적인 보안 경고를 설정하지 않고 작동할 수 있습니다.
4단계: 자동 데이터 추출
Google의 위협 인텔리전스 그룹은 위협 행위자가 Python 도구를 사용하여 표적이 된 각 조직의 데이터 도용 프로세스를 자동화했으며, 연구원들은 잠재적으로 영향을 받은 700개 이상의 조직을 파악하고 있다고 경고했습니다.
AI 음성에 취약한 이유
이러한 공격의 성공은 인간의 근본적인 특성, 즉 듣는 것을 신뢰하려는 경향을 악용합니다.
최근 한 글로벌 조사에 따르면, 70%의 사람들이 실제 목소리와 복제된 목소리를 구분할 수 있다고 확신하지 못한다고 답했습니다.
헬프 데스크 직원이 친절하고 수용적인 태도를 갖도록 교육받고 원격 근무로 인해 오디오 전용 상호작용이 일상화된 기업 환경에서는 이러한 취약성이 더욱 심화됩니다.
CrowdStrike의 2025 글로벌 위협 보고서에 따르면 2024년 상반기와 하반기 사이에 보이스 피싱(비싱) 공격이 442% 증가했으며, 이는 AI가 생성한 피싱 및 사칭 전술에 의해 주도되었습니다.
$25 백만 모닝콜
딥페이크 강화 공격의 영향은 Salesforce를 넘어 훨씬 더 광범위합니다.
2024년 초, 공격자들이 AI를 이용해 여러 임원을 사칭해 화상 통화를 시도한 엔지니어링 회사 Arup의 딥페이크 공격은 어떤 조직도 이 위협에서 자유로울 수 없음을 보여줬습니다.
이탈리아 남부 억양을 흉내 낸 AI 복제 음성 통화를 사용해 페라리 CEO 베네데토 비냐를 사칭하려는 시도를 포함해 다양한 업계의 경영진을 대상으로 한 유사한 공격도 있었습니다.
이러한 사건은 보안 전문가들이 'CEO 사기 2.0'이라고 부르는 공격으로, 단순한 이메일 사칭을 넘어 숙련된 경영진도 속일 수 있는 다각적인 속임수를 사용하는 공격입니다.
플랫폼 보안 대 인적 취약성
Salesforce는 이러한 침해가 플랫폼 자체의 취약점을 나타내는 것이 아니라는 점을 재빨리 강조하고 있습니다.
Salesforce는 2025년 3월에 UNC6040의 캠페인을 인지하고 공격자가 IT 지원을 사칭하여 직원을 속여 자격 증명을 제공하거나 악성 연결 앱을 승인하도록 유도하고 있다고 경고했습니다.
이 회사는 이러한 사고가 플랫폼의 취약점과 관련이 없거나 취약점에서 비롯된 것이 아니라고 강조했습니다.
이는 기술적 결함 대신 사람의 신뢰를 노리는 공격을 차단하는 방법을 찾는 것이 모든 SaaS 제공업체의 주요 과제임을 보여줍니다.
Salesforce는 몇 가지 방어 조치를 구현했습니다:
- 커넥티드 앱 강화: 신규 사용자를 위해 설치되지 않은 연결된 앱을 자동으로 비활성화합니다.
- OAuth 흐름 제한: 특정 인증 프로세스를 사용하여 얻은 연결을 비활성화합니다.
- 향상된 모니터링: 의심스러운 애플리케이션 권한 부여 패턴에 대한 탐지 기능 향상
- 사용자 교육 소셜 엔지니어링 시도 인식에 대한 지침 게시
2025년 8월, Salesforce는 관련 공격으로 OAuth 토큰이 도난당한 것을 발견한 후 Drift 앱을 포함한 Salesloft 기술과의 모든 통합을 중단했습니다.
보안 전문가들은 이제 팀에서 이상한 멈춤, 배경 소음, 오디오 결함 등 미묘한 단서를 찾아내어 AI가 음성을 생성한 시점을 파악할 수 있어야 한다고 경고합니다.
기업의 대응: 기술 솔루션 그 이상
기업들은 딥페이크 강화 공격을 방어하기 위해서는 기술적인 솔루션뿐만 아니라 신뢰와 검증 프로세스에 대한 근본적인 재고가 필요하다는 사실을 인식하기 시작했습니다.
제로 트러스트 커뮤니케이션
Beyond Identity의 RealityCheck는 모든 참가자에게 암호화 기기 인증과 지속적인 위험 점검으로 뒷받침되는 가시적이고 검증된 신원 확인 배지를 제공하며, 현재 Zoom과 Microsoft Teams에서 사용할 수 있습니다.
이러한 솔루션은 기업 커뮤니케이션에서 '절대 신뢰하지 않고 항상 검증하는' 모델로 전환하는 것을 의미합니다.
향상된 교육 프로그램
초현실적인 시뮬레이션을 통해 딥페이크 공격이 실제 세계에서 어떻게 전개되는지 보여주는 Resemble AI의 딥페이크 시뮬레이션 플랫폼을 사용하는 조직은 플랫폼을 구현한 후 공격 성공률이 최대 901%까지 감소했다고 보고했습니다.
멀티채널 검증
선도적인 조직에서는 초기 통신의 진위 여부와 관계없이 모든 고위험 요청에 대해 여러 채널을 통해 확인을 요구하는 프로토콜을 구현하고 있습니다.
음성이 더 이상 진실이 아닐 때
Salesforce 및 기타 엔터프라이즈 시스템에 대한 딥페이크 위협은 사이버 보안 역사의 변곡점입니다.
공격자는 처음으로 권위자를 사칭할 수 있을 뿐만 아니라 실제로 권위자처럼 말하고, 권위자처럼 보이고, 숙련된 보안 전문가조차 조직의 보안을 위협하는 행동을 취하도록 설득할 수 있습니다.
인공지능이 만들어내는 속임수의 시대에는 친숙함을 통해 신뢰를 얻는 것이 아니라 검증을 통해 신뢰를 얻어야 합니다.
이를 이해하고 올바른 도구, 프로세스 및 문화에 투자하는 기업은 점점 더 불확실해지는 디지털 세상에서 보안과 신뢰를 모두 보호할 수 있는 최고의 위치에 서게 될 것입니다.
이 새로운 현실에서 전화기 너머의 목소리는 보이는 것과 다를 수 있습니다.
딥페이크의 시대에는 끊임없는 경계가 보안의 대가입니다.