엔터프라이즈 규모에서 수동 이미지 검토가 실패하는 이유와 대신 수행할 수 있는 작업

수천 명의 사용자를 보유한 비즈니스와 브랜드가 송장 및 영수증 이미지에 압도당하는 것은 놀라운 일이 아닙니다. 고객에게 환불하거나 대금을 지급하기 전에 진위 여부를 확인해야 하기 때문입니다.

그러나 각 이미지를 일일이 수작업으로 검토해야 하는 것은 부담스러운 일이며, 특히 이러한 이미지 중 일부는 AI가 생성한 것이기 때문에 아무리 꼼꼼한 수작업 검토자라도 속일 수 있습니다.

수십 개 이상의 가짜 영수증이 수작업 검토를 통과하는 경우, 회사에 수천 달러의 비용이 발생할 수 있습니다.

그렇다면 이를 위한 최상의 솔루션은 무엇일까요? 바로 엔터프라이즈 AI 이미지 디텍터입니다.

아래에서 자세히 알아보세요.

---

주요 내용

• 기업에서는 매일 수만 개의 이미지를 처리하는 경우가 많은 반면, 수동 이미지 검토(MIR)는 사람이 시간당 수백 개의 이미지만 처리할 수 있기 때문에 운영상 병목 현상이 발생합니다.

• 수동 팀을 확장하는 것은 높은 고용 및 교육 비용으로 인해 재정적으로 지속 가능하지 않으며, 단 30분 만에 사람의 정확도가 크게 떨어지는 “경계력 저하'의 위험도 있습니다.

• 정교한 AI가 생성한 딥페이크와 가짜 영수증은 아무리 세심한 수작업 검토자라도 쉽게 속일 수 있기 때문에 사람에만 의존하면 기업은 대규모 사기에 노출될 수 있습니다.

• 이미지 조정을 자동화하지 않으면 수백만 달러의 규제 벌금, 브랜드 안전 문제로 인한 광고주 이탈, 높은 직원 소진 등 심각한 비즈니스 리스크를 초래할 수 있습니다.

• 트루스캔은 AI를 사용해 99%의 정확도로 2초 이내에 이미지를 처리하는 확장 가능한 대안을 제공하므로 기업은 수동 검토의 지연 없이 대용량 워크플로우를 처리할 수 있습니다.

• TruthScan과 같은 고성능 도구를 통합함으로써 기업은 일상적인 탐지를 자동화하고 가장 복잡한 엣지 케이스와 미묘한 이의 제기에 대한 사람의 전문 지식을 절약할 수 있습니다.

---

기업 환경에서의 수동 이미지 검토란 무엇인가요?

기업 환경의 수동 이미지 검토(MIR)는 사람이 주도하는 보안 프로세스로, 분석가가 공식적인 조직 정책, 규정 요구 사항 및 위험 허용 수준에 따라 시각적 자산을 평가합니다.

이 분석을 통해 검토자는 다음 중 하나를 결정할 수 있습니다:

• 유효성 검사, 
• 깃발, 
• 거부 또는 
• 콘텐츠를 에스컬레이션합니다.

수동으로 이미지를 검토하는 경우, 주로 부적절한 이미지를 필터링하는 데 중점을 둡니다. 사용자 제작 콘텐츠, 규정 준수를 검증하고 브랜드 무결성을 보호하며 법적 및 평판 리스크를 완화합니다.

그러나 수동 검토는 병목 현상을 일으켜 비즈니스의 효율성을 떨어뜨리고 확장 노력을 중단시킵니다.

수동 이미지 검토가 규모에 따라 실패하는 이유

수동 이미지 검토는 사기성 영수증을 신중하게 선별해야 하는 기업의 위험도가 높은 상황에서 필수적입니다.

안타깝게도 수동 검토는 이미지 처리량이 증가함에 따라 확장할 수 있도록 설계되지 않았습니다. 이 시점에서 기업들은 지속 불가능한 병목현상에 직면하게 됩니다. 

일주일에 수십 개의 이미지를 검토할 때만 작동하던 시스템이 매일 수천 개의 이미지를 검토해야 하는 팀에게는 치명적인 장애를 일으키기 시작합니다.

이것이 바로 대규모로 일어나는 일입니다:

1. 인간 리뷰어는 시간당 100~300개 정도의 이미지만 처리할 수 있으며, 이는 넉넉한 수준입니다. 기업 규모에서는 매일 10,000개 이상의 이미지를 처리해야 합니다. 이 경우 수백 명의 풀타임 리뷰어가 필요하며, 이는 지속 불가능한 운영 부담이 될 것입니다. 실제로 검토자가 적으면 검토 대기열이 팀이 처리할 수 있는 속도보다 빠르게 증가하여 몇 시간에서 며칠, 심지어 몇 주까지 지연이 발생할 수 있습니다.
   
2. 새로운 리뷰어를 교육하는 데는 몇 주가 걸리며, 이들을 고용, 교육 및 유지해야 하는 경우 전체 비용이 증가합니다.
   
3. 인간 리뷰어는 완벽하지 않으며 실수를 저지르기 쉽습니다. 이러한 실수는 매일 수백 개의 이미지에 시달리면서 피곤해지면 더욱 늘어납니다. 같은 분석가가 어느 날은 이미지를 승인하고 다음 날은 비슷한 이미지를 거부할 수도 있습니다. 따라서 규모에 따라 검토자의 피로는 일관성 없는 판단과 규정 준수 편차로 이어질 수 있습니다.
   
4. 위험 평가에는 사람의 손길이 중요하지만, 사람에게만 의존하면 엔터프라이즈 AI 이미지 감지 시스템이 메타데이터와 패턴을 캡처하지 못해 더 나은 학습을 할 수 없게 될 수 있습니다. 이렇게 되면 비용이 많이 드는 수작업에 의존하게 됩니다.
   
5. 게다가 제너레이티브 AI는 기업의 상황을 더욱 악화시켰습니다. 2023년부터, AI로 생성된 딥페이크 훨씬 더 느리고 신중한 검토가 필요했습니다. 그렇지 않으면 Arup 홍콩 지사의 재무 담당 직원 사례처럼 수천에서 수백만 달러의 비용이 발생할 수 있습니다. 이 직원은 사기꾼의 속임수에 넘어가 1억 7,500만 홍콩달러를 이체했습니다. 동영상 딥페이크 때문에 2024년.
   
6. 50명 이상의 수동 검토자가 있는 기업은 팀 간의 조정 및 합의율이 떨어질 위험이 있습니다. 이 시점부터 정책 이탈을 주요 규정 준수 리스크로 간주하기 시작합니다.

수동 이미지 검토의 주요 제한 사항

의심할 여지 없이, 문화적 뉘앙스와 맥락을 이해하는 데는 사람의 검토가 필수적입니다. 하지만 데이터 업로드의 엄청난 속도와 인간 두뇌의 생리적 한계로 인해 이를 확장할 수 없다는 점에 주목했습니다.

이로 인해 기업에는 다음과 같은 제한이 발생합니다:

1. 볼륨에 따라 확장할 수 없음

일반적으로 두 배의 이미지를 검토하려면 두 배의 인력이 필요합니다. 이 모델은 최신 인터넷 트래픽의 무게로 인해 무너지고 있습니다.

인스타그램을 대표적인 예로 들어보겠습니다. 인스타그램 사용자만 하루에 9,500만 개 이상의 사진과 동영상을 업로드합니다. 또한 YouTube를 살펴보면 크리에이터들은 매분 500시간 분량의 동영상을 업로드합니다.

이 데이터에 따르면, 10,000명의 수작업 리뷰어로 구성된 팀이 쉬지 않고 일한다고 해서 모든 콘텐츠를 100%의 효율로 물리적으로 검토할 수는 없습니다.

이로 인해 유해한 콘텐츠가 해결될 때까지 더 오랜 시간 동안 생방송을 유지할 수 있도록 하는 사후 검토 설정에 의존할 수밖에 없었습니다.

2. 경계 감소 및 오류율

인간은 진화적으로 반복적인 고속 수동 시각 스캔에 적합하지 않습니다. 인지 심리학에서는 이를 가리켜 경계 감소.

이는 시간이 지남에 따라 신호를 감지하는 능력이 급격히 저하되는 현상입니다.

또한, 연구에 따르면 리뷰어의 오류를 정확하게 감지하는 능력은 15~30분 동안 지속적으로 모니터링하면 현저히 떨어진다고 합니다.

이 모든 것이 인지적 피로로 이어져 효율성을 떨어뜨립니다.

3. 정신 건강 영향

Facebook 는 근무 중 PTSD를 겪은 콘텐츠 모더레이터에게 2020년 합의금으로 1억 7,200만 달러를 지급하기로 합의했습니다.

이 사례는 수동 리뷰어, 특히 폭력, 아동 착취, 잔혹한 장면이 포함된 콘텐츠를 자주 보는 리뷰어들이 높은 소진과 심리적 트라우마로 인해 리뷰 품질을 떨어뜨리고 기업에 손해를 끼칠 수 있다는 사실을 입증한 많은 사례 중 하나입니다.

4. 실시간 대응 부족

엔터프라이즈 규모의 수동 검토는 실시간 응답에 적합하지 않습니다. 사람이 검토할 이미지를 대기열에서 가져올 때 결함이 나타납니다.

사람이 결정을 내릴 때쯤이면 이미 수천 명의 사용자가 콘텐츠를 열람한 후일 수 있습니다.

2019년 크라이스트처치 공격이 생중계된 것이 그 예입니다. 이 공격은 라이브 스트리밍 비디오 는 콘텐츠 검토 팀에 의해 삭제되기 전까지 4,000회 조회되고 초당 1건의 속도로 재공유되었습니다.

수동 검토 대기열은 유해한 콘텐츠의 바이러스를 막을 수 있을 만큼 빠르게 움직일 수 없습니다. AI 생성 이미지 일단 생태계에 진입하면.

5. 교육 및 전문성 제약 조건

많은 이미지 리뷰 도메인은 고도로 숙련된 인력에 의존합니다. 교육 파이프라인이 길고 인력 부족이 흔합니다. 실제로 순수하게 수작업으로만 검토하는 것은 대규모로 유지하기가 어렵습니다.

수동 검토에 의존할 때 발생하는 비즈니스 및 규정 준수 위험

수동 검토의 운영상 한계로 인해 병목 현상이 발생하지만, 유해한 콘텐츠를 발견하지 못하거나 너무 느리게 발견하는 수동 검토는 다음과 같은 결과를 초래할 수 있습니다:

규정 위반에 따른 처벌

각국 정부는 시각적 콘텐츠를 다루는 기업에 대해 자율 규제에서 엄격한 법적 프레임워크로 전환하고 있습니다.

예를 들어, 아래에서 유럽연합의 디지털 서비스법(DSA), 초대형 온라인 플랫폼(VLOP)은 불법 콘텐츠에 적절히 대처하지 못하면 연간 전 세계 매출의 최대 61%에 달하는 벌금을 물게 됩니다.

Meta와 같은 규모의 회사에서 이는 수십억 달러에 해당하는 금액이라고 상상할 수 있습니다. 결과적으로 수동 검토는 너무 느리고 구멍이 많아서 새로운 법률에서 요구하는 규정 준수 수준을 보장할 수 없습니다.

브랜드 안전

유해한 이미지와 콘텐츠를 차단하지 못하는 브랜드는 광고주로부터도 어려움을 겪게 됩니다. 광고주들은 자신의 브랜드가 음란물, 혐오물, 혐오 콘텐츠와 함께 노출되는 것에 대해 무관용 원칙을 적용하기 시작했습니다. AI 슬롭.

2024년 연구에 따르면 인터랙티브 광고국(IAB) 및 통합 광고 과학(IAS), 51%의 소비자가 불쾌감을 주는 콘텐츠에 가까운 브랜드 사용을 중단할 가능성이 높습니다.

이러한 점을 고려할 때 수동 검토에는 대규모 브랜드 안전을 보장할 수 있는 메타데이터와 컨텍스트 기능이 부족합니다. 따라서 실수가 발생하면 즉각적인 매출 손실로 이어질 수 있습니다.

데이터 개인정보 보호 위반

또한 수동 검토에서는 사용자가 이미지를 보내야 하는데, 이 이미지에는 비공개 이미지나 민감한 이미지가 포함되는 경우가 많습니다. 

때때로 타사 비즈니스 프로세스 아웃소싱(BPO) 센터나 내부 직원이 이 원시 사용자 데이터에 액세스할 수 있습니다. 적절하게 관리하지 않으면 사람이 수동으로 검토하는 것이 주요 데이터 유출 및 개인정보 침해의 원인이 될 수 있습니다.

지속 불가능한 수익

엔터프라이즈 플랫폼이 확장됨에 따라 더 많은 수익을 기대할 수 있습니다.

그러나 수동 검토 비용이 매출과 연동하여 증가하거나 그보다 빠르게 증가하면 AI 이미지 검토 플랫폼이 일반적으로 제공하는 수익을 달성할 수 없게 됩니다.

사용자 마이그레이션 및 커뮤니티 독성

Gartner 는 2025년까지 50%의 기업이 플랫폼의 유해성과 관련된 “브랜드 위기'를 관리해야 하며, 이는 사용자 유지율에 직접적인 영향을 미칠 것이라고 예측했습니다.

X나 TikTok과 같은 플랫폼의 사용자들이 커뮤니티 가이드라인 시행을 개선할 것을 요구하면서 이러한 움직임은 점점 더 커지고 있습니다.

기업이 수동 검토에 계속 의존하면 검토 대기열이 밀리고 유해한 콘텐츠가 온라인에 더 오래 남아 있기 때문에 사용자의 무관심이 높아질 것입니다. 이러한 유해성은 사용자 경험을 저하시켜 사용자가 플랫폼을 떠나 더 안전한 경쟁업체로 이동하게 만듭니다.

기업이 자동화된 이미지 검토로 전환하는 이유

기업 리더에게 자동화된 이미지 위험 탐지로의 전환은 생존과 직결된 문제입니다.

업로드된 수백만 건의 영수증을 처리하는 경우 전자상거래 조직, 를 사용하려면 위조 영수증 탐지기가 필요합니다.

이것이 바로 기업들이 이동하는 이유입니다:

1. AI는 결정론적 일관성을 제공합니다. 월요일에 했던 것과 동일한 이미지를 화요일에도 모델에 제공하면 동일한 결과를 얻을 수 있습니다. 이러한 안정성은 명확한 커뮤니티 가이드라인을 시행하고 광고주의 신뢰를 유지하는 데 필요합니다.
   
2. 자해나 폭력 등 불온한 시각적 콘텐츠가 포함된 카테고리의 경우, 지속적으로 노출되면 인간 검토자에게 영향을 미칠 수 있습니다. 명백한 스팸과 폭력을 자동으로 감지함으로써 인간 모더레이터는 복잡한 이의 제기를 처리하느라 정신적 충격을 받지 않아도 됩니다.
   
3. 자동화된 모델은 이미지를 밀리초 단위로 처리합니다. 따라서 다음을 통합하면 AI 이미지 감지, 를 통해 기업은 실시간 감지 기능을 제공할 수 있습니다. 이러한 즉각성을 통해 사용자 유지율과 전환율을 높일 수 있습니다.
   
4. 수동 검토는 규모에 따라 비용이 많이 들고 수익에 악영향을 미칩니다. 하지만 자동화를 통해 기업은 백로그를 해소하고, 사람의 피로를 덜어주며, 여러 위치에 대한 이미지 검토를 간소화하고, 투자 수익을 쉽게 얻을 수 있습니다.
   
5. 자동화된 모더레이션은 구조화된 로그, 모델 점수, 타임스탬프, 검토자 재정의 및 의사 결정 추적을 생성할 수 있습니다. 따라서 흩어져 있는 수동 메모에 의존하는 것보다 규정 준수, 내부 QA 및 고객 보고를 훨씬 쉽게 지원할 수 있습니다.

대신 할 수 있는 일 확장 가능한 AI 기반 접근 방식

수많은 사람이 일일이 이미지를 검토하는 대신 사람이 완전히 배제되는 것은 아닙니다.

AI를 모더레이션 프로세스의 도우미로 간주하고 다음을 활용해야 합니다. AI 이미지 검사기 를 사용하여 탐지 프로세스를 처리함으로써 더 빠르고 확장 가능하며 인적 오류의 발생 가능성이 현저히 낮아졌습니다.

자동화된 이미지 분석을 1차 방어선으로 활용하기

가장 내구성이 뛰어난 자동화된 이미지 시스템은 인간에게 모든 것을 확인하도록 요구하지 않습니다. AI가 대량의 고신뢰 결정을 미리 처리하도록 설정할 수 있습니다.

실질적인 1차 방어선은 다음과 같습니다:

• 업로드 시 자동 분류를 통해 모든 이미지를 실행하여 주요 정책 카테고리를 감지합니다.
• 자동 허용, 자동 차단, 사람 검토로 에스컬레이션 등의 신뢰도 임계값에 따라 이미지를 분류합니다.
• 엣지 케이스 및 품질 보증을 위해 휴먼 인 더 루프 워크플로를 사용하세요.
• 리뷰어 결과를 학습 데이터와 임계값 조정에 다시 피드백하여 시간이 지남에 따라 성능을 개선하세요.
• 모더레이션은 잠시 후 비활성화하는 일회성 기능이 아니라 운영 기능으로 취급하세요.
• 사용자가 시스템을 우회하는 데 사용할 수 있는 회피 전술에 대한 보호 기능을 추가하세요. 또한 급격한 정책 변경과 더 나은 AI 이미지 생성 제품의 경우 항상 시스템을 업데이트하세요.

트루스캔이 기업 규모에서 이미지 검토를 해결하는 방법

오늘날 조직은 고객이 제출한 영수증과 신원 확인부터 소셜 미디어 콘텐츠에 이르기까지 AI가 생성하고 조작한 이미지의 폭발적인 증가에 직면해 있습니다.

이러한 규모에서는 수동 검토가 불가능하며, 정교한 AI 이미지 생성기 DALL-E나 Midjourney처럼 수동 검토는 신뢰할 수 없습니다.

트루스 스캔 는 미드저니 이미지의 경우 97.5%, DALL-E 이미지의 경우 96.71%의 정확한 감지율로 기업에게 탈출구를 제시합니다. 또한 독립적인 비교에서는 99%의 정확도를 보여줍니다.

이러한 결과를 통해 정교한 AI 생성 위협으로부터 조직을 보호하는 종합적인 엔터프라이즈급 AI 이미지 조정 플랫폼으로서 TruthScan의 입지가 더욱 강화되었습니다.

기업 규모에 따라 다음과 같은 방법으로 도움을 받을 수 있습니다:

• 트루스캔은 2초 미만의 처리 속도로 수천에서 수백만 장의 이미지를 처리하는 기업에게 매우 중요합니다. 최적화된 탐지 파이프라인은 엔터프라이즈급 인프라를 통해 몇 초 만에 이미지를 처리합니다.
• 대용량 워크플로우를 위한 대량 처리를 지원합니다.
• 이 플랫폼은 원활한 통합을 제공하여 자동화된 워크플로와 사용자 지정 구현을 지원합니다.
• 이제 조직은 이미지 감지 기능을 기존 콘텐츠 검토 파이프라인 및 클레임 처리 등에 직접 포함할 수 있습니다.
• 각 콘텐츠에는 0-100%의 신뢰도 점수가 할당되어 AI에 의해 생성되거나 조작되었을 가능성을 나타냅니다.

이미지 검토를 안전하게 확장하는 방법에 대해 트루스캔에 문의하기

TruthScan은 고객과 협력하여 이미지 감지를 원활하게 확장할 준비가 되어 있습니다. 플랫폼에서 TruthScan에 직접 연락하여 자동화를 워크플로에 통합할 수 있습니다.

TruthScan을 사용하는 기업에는 다음과 같은 기능이 제공됩니다:

• 대량 구매 시 큰 폭의 할인
• 현장 및 지역 배포(영국, EU 및 기타 협의된 위치)
• 최고 품질의 맞춤형 모델
• 사용자 지정 통합
• 연중무휴 전담 지원
• 사용자 지정 SLA
• 전담 계정 관리자

선불 비용은 없으며, 트루스캔 영업 에이전트와 계약을 협상하여 비즈니스에 적합한 계약을 체결할 수 있습니다.

또한, 최대 $100k를 획득할 수 있는 기회가 주어집니다. 파트너 프로그램 인맥을 활용하여 딥페이크 및 AI 조작 콘텐츠의 공격을 받는 브랜드에 트루스캔을 홍보할 수 있습니다.