AI 음성 사기 및 위험에 대한 이그제큐티브 가이드

기업 내 AI 음성 사기의 이해, 탐지 및 예방을 위한 종합 가이드

결코 일어나지 않은 $2500만 음성 통화

2024년 2월, 홍콩의 한 다국적 기업의 재무 담당자는 CFO로부터 영상 통화를 받았습니다. 

상대방의 목소리는 모든 굴절, 모든 멈춤, 심지어 약간의 억양까지 즉시 인식할 수 있었습니다.

그는 기밀 인수를 마무리하기 위해 총 1억 7,500만 달러에 달하는 15건의 송금을 처리해 달라고 긴급하게 요청했습니다.

CFO는 그런 전화를 한 적이 없습니다. 완전히 AI에 의해 생성된 전화였습니다.

이것은 고립된 사례가 아닙니다. 금융 기관에서는 딥페이크 사기가 가파르게 증가하고 있습니다.

지난 3년 동안 2,1371건의 사기 사건이 급증했으며, 현재 이 분야의 전체 사기 시도 중 42.51%는 AI가 주도하고 있습니다.

AI 음성 사기가 급증하고 있음에도 불구하고 비즈니스 리더의 절반 이상이 직원들이 딥페이크 공격을 탐지하거나 대응할 수 있는 교육을 받지 못했다고 인정했으며, 약 80%의 기업이 이러한 사고를 처리할 공식적인 프로토콜이 마련되어 있지 않다고 답했습니다.

AI 음성 복제의 작동 방식과 위협이 되는 이유

최신 AI 음성 합성에는 놀라울 정도로 적은 데이터가 필요합니다. 단 몇 초의 오디오만으로도 최대 85%의 정확도로 음성을 복제할 수 있습니다.

프로세스는 크게 세 단계로 나뉩니다:

1. 데이터 수집: 사기꾼은 컨퍼런스 콜, 팟캐스트 인터뷰, 소셜 미디어 클립 또는 LinkedIn 동영상 게시물과 같은 공개 소스에서 음성 샘플을 수집합니다.
2. 모델 교육: AI는 음정, 음색, 억양, 속도, 호흡 패턴과 같은 보컬 특성을 분석합니다.
3. 세대: 이 시스템은 가까운 동료도 속일 수 있을 만큼 설득력 있는 합성 음성을 생성합니다.

접근성 문제

이 위협을 더욱 위험하게 만드는 것은 민주화입니다. 사기꾼들은 더 이상 할리우드 수준의 리소스가 필요하지 않습니다.

짧은 소셜 미디어 클립에서 음성을 복제하는 데 필요한 것은 접근 가능한 소프트웨어뿐이며, 오픈 소스 도구와 클라우드 기반 AI 서비스를 통해 기본적인 기술만 있으면 누구나 음성 복제를 사용할 수 있게 되었습니다.

경영진이 사기의 주요 표적이 되는 이유

경영진은 여러 가지 위험 요소에 직면해 있습니다.

소셜 미디어를 통해 공개적으로 노출되기 때문에 음성 샘플을 쉽게 찾을 수 있으며, 직원들의 권한으로 인해 긴급한 요청에 신속하게 대응할 수 있는 경우가 많습니다.

평균적으로 경영진 4명 중 1명은 딥페이크 기술에 대한 이해도가 낮습니다.

현재 통계가 보여주는 우려스러운 그림

에서 2024 딜로이트 설문조사에 따르면 경영진의 25.91%는 지난 1년간 재무 또는 회계 데이터를 노린 딥페이크 사고를 한 번 이상 겪었다고 답했으며, 전체 응답자의 절반은 향후 12개월 동안 이러한 공격이 증가할 것으로 예상했습니다.

가장 우려스러운 점은 521TP6%의 조직만이 CEO의 딥페이크를 발견할 수 있다고 확신한다는 것입니다.

AI 음성 사기를 식별하는 방법

의심스러운 음성 커뮤니케이션을 수신할 때 주의해야 할 몇 가지 경고 신호가 있습니다. 

AI 음성 사기는 종종 단조롭거나 밋밋하게 들립니다. 또한 이상한 멈춤이나 부자연스러운 리듬으로 비정상적인 속도를 느낄 수도 있습니다. 

특히 장시간 통화 중에는 오디오에서 희미한 전자 윙윙거리는 소리나 울림이 들릴 수도 있습니다.

그리고 많은 경우 음성은 대본이나 리허설처럼 들리는 제한된 문구를 반복합니다.

재정적 영향 및 실제 비용

대부분의 조직은 평균적으로 약 1조 7,450,000달러의 손실을 입었지만, 금융 서비스 부문의 손실은 1조 7,603,000달러를 넘어섰습니다.

가장 심각한 경우, 10곳 중 1곳의 조직이 100만 달러 이상의 손실을 보고했습니다.

이러한 추세는 빠르게 증가하고 있습니다. 2022년의 이전 연구에 따르면 신원 사기로 인한 평균 재정적 부담은 현재의 절반에 가까운 약 $230,000달러였습니다.

향후 예상 손실

딜로이트의 금융 서비스 센터에 따르면 미국에서 AI 사기로 인한 손실액은 2023년 1조 7,123억 달러에서 2027년에는 1조 7,400억 달러로 증가할 것으로 예상됩니다. 이는 매년 약 321조 6천억 달러가 증가하는 것입니다.

지역적 취약성

북미 지역에서는 딥페이크 사기가 1740% 증가했습니다. 

이러한 지역적 증가는 북미가 디지털 경제 규모가 크고 온라인 서비스가 널리 사용되기 때문에 딥페이크 사기범들의 주요 타깃이 될 수 있음을 시사합니다.

경영진 보호를 위한 전략적 접근

1. 인증 프로토콜 구현

방어를 강화하는 한 가지 방법은 주요 담당자와 미리 합의한 인증 문구를 공유하는 '안전 단어' 시스템을 사용하는 것입니다.

AI 음성 복제를 사용하는 사기꾼은 개인 인증 질문에 대한 정답을 알 수 없습니다. 

또 다른 안전장치는 다중 채널 인증입니다.

비정상적인 재정 요청은 원래의 연락 방법에만 의존하지 말고 별도의 커뮤니케이션 채널을 통해 확인해야 합니다. 

또한 기업은 누가 요청하든 대규모 금융 거래에 대한 대기 기간과 승인 단계를 포함하는 명확한 에스컬레이션 규칙을 설정해야 합니다.

2. 디지털 노출에 주의하기

또 다른 보호 계층은 온라인에서 사용할 수 있는 임원급 오디오 및 비디오의 양을 제한하는 것입니다. 사기꾼이 수집할 수 있는 샘플이 많을수록 복제품의 설득력이 높아집니다. 

또한 경영진을 위한 소셜 미디어 가이드라인, 특히 깨끗한 오디오가 포함된 동영상 게시와 관련된 명확한 가이드라인을 설정하는 데 도움이 됩니다.

그리고 컨퍼런스의 경우, 조직은 긴 음성 샘플을 제공하는 녹음된 강연이나 인터뷰를 염두에 두어야 합니다.

3. 기술 솔루션 배포

바로 이 지점에서 고급 AI 탐지 기술이 중요해집니다. 

조직에는 엔터프라이즈급 음성 인증이 필요하며 딥페이크 탐지 기능을 제공합니다:

• 실시간 분석: 실시간 커뮤니케이션 중 합성 음성 감지
• 기록 확인: 녹음된 통화 및 메시지의 진위 여부를 분석합니다.
• 통합 기능: 기존 커뮤니케이션 플랫폼과 원활하게 연동
• 높은 정확도: 오탐을 최소화하면서 정교한 가짜를 잡아내세요.

4. 종합 교육 프로그램

리더십 팀은 AI 음성 위협 및 검증 절차에 대한 맞춤형 교육이 필요합니다. 

직원들의 인식 제고도 그에 못지않게 중요합니다.

어떤 역할을 맡든 모든 사람은 잠재적인 딥페이크를 발견하고 사이버 위협이 조직에 유입되는 것을 방지할 수 있는 역량을 갖춰야 합니다. 

정기적인 시뮬레이션 연습을 통해 모의 보이스피싱 시도를 테스트하고 대응 절차를 개선함으로써 이러한 대비 태세를 강화할 수 있습니다.

고급 AI 음성 감지 솔루션

기존의 방어 체계는 네트워크 기반 위협을 위해 구축된 것이지 AI 기반 인간 사칭을 위해 구축된 것이 아닙니다. 

표준 사이버 보안 도구가 음성 기반 소셜 엔지니어링을 해결할 수 없는 주된 이유입니다:

• 멀웨어 시그니처 없음: 음성 통화는 기존 보안 시스템을 트리거하지 않습니다.
• 인적 신뢰 요소: 사람들은 듣는 것, 특히 익숙한 목소리를 자연스럽게 신뢰합니다.
• 탐지 기술 격차: 딥페이크 등 AI 기반 사기 시도가 증가하고 있음에도 불구하고, 금융 기관의 221%만이 AI 기반 사기 방지 도구를 도입했습니다.

전문화된 음성 감지의 필요성

최신 음성 사기에는 최신 탐지 기능이 필요합니다.

엔터프라이즈급 AI 음성 감지 시스템 할 수 있습니다:

• 보컬 바이오마커를 분석합니다: 합성 음성의 미묘한 불일치 감지
• 실시간 처리: 의심스러운 통화 시 즉각적인 알림 제공
• 지속적인 학습: 새로운 음성 합성 기술에 적응하기
• 통합 준비 완료: 기존 통신 인프라와 연동

음성 사기로부터 보호하고자 하는 조직은 직면한 위협의 정교함에 걸맞은 특수 목적의 AI 탐지 기술에 투자해야 합니다.

보이스 피싱은 현재 진행형이며 점점 더 증가하고 있습니다.

2025년 1분기에는 딥페이크 사기와 신원 도용으로 인해 1조 7,000억 달러 이상의 손실이 발생했습니다.

AI 복제품을 이용한 보이스피싱이 442%로 급증했으며, 하루에 400개 이상의 기업이 딥페이크 CEO 또는 CFO 사기를 당하고 있습니다. 

561개 기업 중 61%는 딥페이크 적발에 매우 자신 있다고 답했지만, 실제로 딥페이크로 인한 금전적 손실을 피한 기업은 61%에 불과했습니다.

중요한 것은 조직이 표적이 될지 여부가 아니라 이에 대한 준비가 되어 있는지 여부입니다.

음성 사기가 사이버 보안의 양상을 바꾸고 있습니다. 기존의 방어 방식으로는 AI 기반 사칭을 따라잡을 수 없습니다.

조직은 보안을 유지하기 위해 더 나은 탐지 도구, 강력한 교육 프로그램, 명확한 확인 절차가 필요합니다.

보이스피싱에 대응할 수 있는 기술은 이미 존재합니다. 진짜 문제는 첫 번째 음성 사기 사건이 발생하기 전에 사용할 것인지, 아니면 그 이후에 사용할 것인지입니다.