불과 몇 년 전만 해도 다른 사람의 목소리를 흉내 내기 위해서는 전문 스튜디오와 많은 기술력이 필요했습니다.
이제 인터넷에 연결되어 있고 시간적 여유가 있는 사람이라면 누구나 1분 이내에 다른 사람의 목소리를 디지털 복제품으로 만들 수 있습니다.
이러한 공격에 사용되는 도구는 날로 저렴해지고 누구나 쉽게 접근할 수 있게 되었습니다. 또한 많은 사람들이 소셜 미디어에서 자신의 삶을 공유하기 때문에 사기꾼은 필요한 오디오를 매우 쉽게 찾을 수 있습니다.
이 도움말에서는 오디오 사기의 악명 높은 실제 사례 몇 가지를 살펴봅니다. 또한 이러한 위협을 적시에 종식시킬 수 있는 솔루션도 소개합니다.
주요 내용
- 최근 몇 년간 음성 딥페이크 사기 시도가 2,137% 이상 급증했는데, 이는 최신 AI가 단 3초의 소스 오디오로 85%의 정확한 음성 복제품을 생성할 수 있다는 사실에 힘입은 바가 큽니다.
- 악명 높은 실제 공격으로는 2024년 발생한 Arup 엔지니어링 회사 강도 사건이 있으며, 사기범들은 CFO의 딥페이크 영상과 음성을 이용해 직원을 속여 1억 7천 560만 달러를 이체하도록 유도했습니다.
- 보이스 딥페이크는 기업 도난 외에도 납치 사기를 통해 가족에게 심각한 정서적 위험을 초래하고 은행 및 기타 보안 수준이 높은 앱에서 사용하는 기존의 생체 인식 보안 시스템을 우회할 수 있습니다.
- 조직은 대규모 전송을 위해 다자간 승인 프로토콜을 구현하고 실시간으로 음향 지문을 분석하는 TruthScan과 같은 AI 음성 감지기를 배포하여 사람의 검증만으로는 한계에 도달할 수밖에 없습니다.
- TruthScan은 모든 주요 오디오 및 비디오 형식에서 99% 이상의 정확도로 ElevenLabs 및 Murf와 같은 플랫폼의 합성 음성 아티팩트를 식별하여 기업의 상호 작용을 보호합니다.
음성 딥페이크 공격이란 무엇인가요?
보이스 딥페이크는 누군가의 목소리를 디지털 방식으로 위조한 것입니다. 공격자는 음성 녹음에서 말하는 방식에 대한 모든 세부 사항을 분석할 수 있는 소프트웨어를 사용합니다.
음성을 복제하기 위해 소프트웨어는 음성의 패턴을 파악하려고 합니다. 주로 음조, 어조, 문장 사이의 호흡 방식 등이 소프트웨어에 의해 고려됩니다.
이러한 패턴을 학습하면 공격자는 해당 목소리로 무엇이든 말하게 만들 수 있습니다.
다시는 AI 사기에 대해 걱정하지 마세요. TruthScan 도움을 드릴 수 있습니다:
- 생성된 AI 감지 이미지, 텍스트, 음성 및 동영상
- 피하기 주요 AI 기반 사기
- 가장 중요한 정보 보호 민감한 기업 자산.
위험한 점은 음성 딥페이크 제작 도구에 쉽게 접근할 수 있다는 점입니다. 그리고 대부분 설치가 필요하지 않습니다. 이러한 도구는 웹사이트 형태로 온라인에서 사용할 수 있습니다.
몇 달러만 투자하고 음성 복제를 시작하면 됩니다. 조금 더 알아보면 무료로 목소리를 복제할 수 있는 도구를 찾을 수도 있습니다.
이 새롭고 쉽게 사용할 수 있는 기술로 인해 오디오 사기가 급격히 증가했습니다.
사기꾼은 소셜 미디어나 기타 공개 채널에서 소싱할 수 있는 누군가의 아주 작은 오디오만 있으면 이를 복제할 수 있습니다.
그런 다음 복제된 목소리를 사용하여 실시간 전화 통화, 화상 회의, 음성 메모, 공지 사항 등과 같은 상황에서 사람을 사칭할 수 있습니다.
이는 음성 딥페이크 공격의 가상 사용 사례에 그치지 않습니다. 이러한 일들은 이미 발생했습니다. 나중에 악명 높은 보이스 딥페이크 공격 몇 가지를 살펴보겠습니다.
음성 딥페이크 공격의 잠재적 위험성
보이스 딥페이크에 대해 들었을 때, 유명인이 한 번도 하지 않은 말을 하는 재미있는 동영상을 떠올린 적이 있을 것입니다.
하지만 무해해 보이는 복제 음성 사용은 관련 당사자에게 심각한 피해를 입힐 수 있습니다. 그 위험성에 대해 이야기해 보겠습니다.
기업의 재정적 피해
음성 딥페이크는 기업의 평판을 영원히 망칠 수 있습니다. 또한 몇 분 만에 거액의 돈을 빼앗아 갈 수도 있습니다.
어떻게 그럴 수 있을까요? 사기꾼은 회사 상사의 목소리를 복제하여 직원에게 전화를 걸어 계좌로 돈을 이체하는 등 해서는 안 되는 일을 하게 만들 수 있습니다.
이것은 하나의 예일 뿐입니다. 가능성은 무궁무진합니다.
보안 시스템 우회하기
목소리는 다른 사람이 가져서는 안 되는 생체 인식 정보입니다. 많은 앱, 특히 뱅킹 앱에 로그인할 때 비밀번호로 사용하기 때문입니다.
이러한 앱에는 무단 액세스를 방지하기 위해 자동화된 음성 인증 시스템이 내장되어 있을 수 있지만, 좋은 음성 복제품은 여전히 이들을 속일 수 있습니다.
가족에게 미치는 정서적 피해
보이스피싱 사기범들이 가장 쉽게 노리는 대상은 아마도 가족 중 노인일 것입니다. 예를 들어 부모님이나 조부모님이 그렇습니다.
예를 들어 사기범은 어머니에게 전화를 걸어 딸이 납치되었다며 도와달라고 우는 소리를 들려줄 수 있습니다.
직장에서의 신뢰 약화
음성 딥페이크 공격은 또한 건강한 직장에 대한 신뢰를 해칩니다.
직원들은 관리자의 전화를 다시 한 번 확인하여 사기꾼이 복제된 목소리로 위험한 일을 하라고 지시하는 것은 아닌지 확인해야 합니다.
그렇다면 수동으로 재확인하지 않는다면 어떤 방법이 있을까요? 방금 논의한 모든 위험은 자동화된 딥페이크 공격 방지가 필요하다는 점을 시사합니다.
다행히도 현재 딥페이크 AI 음성 탐지 도구가 있으며, TruthScan이 그 중 하나입니다.
트루스캔의 사기 및 사칭 방지 기능으로 사기 및 사칭 방지 AI 음성 감지기.
음성 딥페이크 공격의 실제 사례
인공지능 덕분에 우리는 이제 눈으로 보고 귀로 듣는 것을 쉽게 믿을 수 없는 지경에 이르렀습니다. AI는 이제 사실적인 사진과 동영상을 만들 수 있습니다. 오디오도 마찬가지입니다.
딥페이크 오디오 사기에 속아 넘어간 사람들의 이야기를 이미 들어보셨을 것입니다. 뉴스와 소셜 미디어에서도 가끔씩 이런 이야기가 등장합니다. 이 중 일부는 이해하기 어려운 경우도 있습니다.
음성 딥페이크 공격이 얼마나 교묘하게 실행되는지 잘 알 수 있도록 가장 악명 높은 몇 가지 음성 딥페이크 공격에 대해 알려드리겠습니다.
실제로 일어나지 않은 $2500만 가상 회의
이 딥페이크 공격은 아마도 가장 많이 보고된 공격일 것입니다.
The 피해자는 영국의 엔지니어링 회사인 Arup입니다., 하지만 이 사기는 홍콩 사무소에서 시작되었습니다.
2024년 초, 회사의 재무 부서에 근무하던 한 직원이 영국에 있는 회사의 CFO로부터 이메일을 받았습니다. 이 직원은 이메일에서 CFO로부터 일부 은행 계좌로 비밀리에 돈을 이체하라는 지시를 받고 있었습니다.
처음에 직원은 요청이 다소 이상하게 느껴져 피싱 사기일지도 모른다는 생각에 상당히 의심스러워했습니다.
그런데 그 직원은 화상 회의 통화에 초대되었습니다. 이 직원이 통화에 참여했을 때 CFO와 다른 여러 고위급 동료들과 똑같은 모습을 보았습니다.
모든 사람이 실제와 똑같은 표정과 소리를 냈습니다. 또한 실제처럼 보이도록 서로 대화를 나누기도 했습니다.
이로써 재무부 직원의 모든 의구심은 완전히 사라졌고, 이후 15번의 거래를 통해 홍콩 은행 계좌로 $2560만 홍콩달러(약 1억 7천만 원) 이상을 송금했습니다.
나중에 이 모든 설정이 딥페이크임이 밝혀졌습니다. 통화 당사자 중 Arup 직원을 제외하고는 누구도 실제 사람과 똑같이 생긴 사람이 없었습니다. 사기범들은 회사의 CFO와 고위 직원의 고품질 오디오 및 비디오 복제품을 사용하여 공격을 완벽하게 조직했습니다.
이탈리아 장관과 패션 아이콘
이번 대회도 2024년에 열렸습니다. A 가짜 이탈리아 국방부 장관 귀도 크로세토 여러 이탈리아 엘리트에게 전화를 걸어 납치된 기자들을 구출하는 데 필요한 재정적 지원을 요청했습니다.
통화에서 가짜 귀도 크로세토는 이것이 정부의 일급 기밀 작전이라고 주장했습니다. 이 발신자는 조르지오 아르마니와 같은 전설적인 패션계 인사들과도 통화를 할 수 있었습니다.
안타깝게도 한 사람은 결국 약 100만 달러를 송금했습니다. 다른 사람들보다 더 애국심이 강했던 이들은 사기꾼들이 이를 악용하는 데 성공했을 것입니다.
$243,000 영국 에너지 강탈 사건
이 2019년에 일어난 일 이 정도 규모의 딥페이크는 아마도 최초로 보고된 사례일 것입니다.
영국의 한 에너지 회사의 CEO는 독일에 있는 모회사의 상사와 전화 통화를 하고 있다고 생각했습니다.
CEO는 헝가리에 있는 공급업체에 약 22만 유로($243,000)를 송금하라는 명령을 받았습니다. 그는 즉시 송금해야 하는 중요한 거래라는 말을 들었습니다. CEO는 사기에 속아 돈을 송금했습니다.
애리조나에서 엄마에게 걸려온 무서운 전화
오디오 딥페이크가 가족에게 위협이 될 수 있다고 이야기했던 것을 기억하시나요? 저희가 말씀드린 사기 사례는 실제로 일어난 일입니다.
사기범들은 소셜 미디어에 올라온 15세 소녀의 동영상에서 목소리를 복제했습니다. 그런 다음 소녀의 어머니에게 전화를 걸어 딸의 목소리로 납치당했으며 납치범들이 즉시 몸값을 요구하고 있다고 주장했습니다.
다행히도 아버지는 시련이 계속되는 동안 스키 연습장에 있는 친딸에게 전화를 걸 수 있었습니다. 사기를 피할 수 있었습니다.
음성 딥페이크가 기업에 미치는 영향
음성 딥페이크 공격의 주된 목적은 대부분 돈을 훔치는 것입니다.
하지만 공격 대상이 기업일 경우 그 피해는 다차원적입니다.
예를 들어 딥페이크는 회사 직원들 간의 분위기를 해칠 수 있습니다. 직원들이 실수를 할까봐 항상 두려워하는 문화를 조성할 수 있습니다.
콜센터를 예로 들어보겠습니다. 사이버 범죄자들이 콜센터에 전화를 걸어 특정 고객인 것처럼 가장하는 사례가 보고되고 있습니다.
이들의 수법은 콜센터 상담원이 해당 고객의 계정 세부 정보(예: 집 주소, 전화번호)를 변경하고 계정을 인계받도록 하는 것입니다.
원격 채용과 가상 면접은 지원자가 자격이 없는 일자리를 얻기 위해 딥페이크 음성을 사용할 수 있는 또 다른 영역입니다.
음성 딥페이크 공격으로부터 기업 보호하기
기업의 기존 보안 규칙은 AI 시대에 만들어진 것입니다.
이제 기업은 인공지능에 대해 재고해야 할 때입니다. 먼저 AI의 악용에서 비롯된 수많은 새로운 사이버 위협에 대해 스스로를 교육하는 것부터 시작해야 합니다.
예를 들어, 전체 팀을 대상으로 교육 세션을 구성하여 오디오 사기의 실제 사례를 보여줄 수 있습니다. 위에서 설명한 예시부터 시작할 수 있습니다. 이러한 교육 세션에서는 다양한 시나리오에 대한 딥페이크 공격 방지 팁도 제공해야 합니다.
그런 다음 내부 비즈니스 정책을 업데이트할 수 있습니다. 한 사람이 혼자서 대량의 송금을 승인하는 것을 중단하는 것도 중요한 변화 중 하나입니다.
큰 금액의 결제는 전체 패널의 승인이 필요하므로 패널 중 적어도 한 명은 문제가 있음을 제때 알아차릴 수 있어야 합니다.
또한 자동화된 AI 음성 감지기 를 사용하여 통화 중 백그라운드에서 실행할 수 있습니다.
이를 위해 트루스캔 AI 도구가 만들어졌습니다. AI 도구를 사용하여 음성 딥페이크 공격을 탐지, 검증 및 방지할 수 있습니다. 방법을 알려드리겠습니다.
트루스캔이 음성 상호작용을 보호하는 방법
스트레스가 많은 통화 중에 직원 혼자서 성대모사와 실제 목소리를 구분하는 것은 불가능하다는 것을 잘 알고 있습니다. 따라서 통화 중에 해당 업무를 처리할 수 있는 전담 도우미가 필요하며, 팀원들은 본연의 업무에 집중할 수 있습니다.
우리의 AI 음성 감지기 는 전용 솔루션입니다.
작동 방식과 기능은 다음과 같습니다:
- 실시간 전화 통화 및 화상 회의에서 수백만 개의 다양한 데이터 포인트를 분석하고 99%의 정확도를 제공합니다.
- 가짜 음성 감지 후 즉시 경고 발신
- 합성 모델에만 남는 음성의 스펙트럼 패턴과 음향 지문을 포착합니다.
- 간단한 REST API를 통해 기존 콜센터 또는 헬프 데스크와 통합합니다.
- 모든 주요 오디오 및 비디오 포맷 스캔 가능
음성 딥페이크 공격 방지에 대해 TruthScan과 상담하기
트루스캔으로 음성 복제 사기를 실시간으로 막을 수 있지만, 문제는 언제부터 시작할 것인가 하는 것입니다. 직원들이 조만간 실수를 저질러 사기를 당할 수도 있습니다. 그 불행한 순간을 기다리지 마세요.
AI 음성 탐지기는 ElevenLabs 및 Murf와 같은 플랫폼을 사용하여 음성 딥페이크에 플래그를 지정할 수 있습니다.
실시간 전화 통화 및 화상 회의 중에 백그라운드에서 작동하므로 통화 상담원이 멀티태스킹을 할 필요가 없습니다.
이 모든 것은 REST API를 통해 빠르게 통합하기만 하면 됩니다.
시작하기 트루스 스캔 지금 바로 딥페이크 사기로부터 비즈니스를 보호하세요.