Sentinel이 TruthScan으로 AI 기반 마켓플레이스 사기를 막는 방법

Sentinel의 파이프라인은 완전히 AI가 생성한 이미지를 잡아냅니다. 쉬운 부분입니다. 어려운 것은 실제 사진에 대한 작은 AI 편집을 탐지하는 것입니다(예: 실제 재킷에 디지털로 추가된 얼룩, 실제 화면에 합성된 스크래치). Allegro에서 허위 환불 청구를 부추기는 사기 유형이며, Sentinel이 테스트한 다른 모든 탐지기가 실패한 지점입니다.

사기 탐지에서 모든 결과는 이진입니다: 진짜 또는 가짜. Sentinel이 정당한 구매자를 사기꾼으로 표시하면 마켓플레이스는 그 신뢰를 잃습니다. 두 번이면 마켓플레이스는 Sentinel을 버립니다. Szmielew의 말:

Sentinel은 실제 사진을 오인하지 않으면서 픽셀 수준의 AI 수정까지 잡아낼 만큼 정확한 탐지기가 필요했습니다.

Piotr는 세 가지 주요 솔루션을 스트레스 테스트했습니다. 데이터는 표준 AI 탐지기로는 실현 가능한 상용 제품을 지탱할 수 없음을 보여 주었습니다.

• OpenAI Vision 정당한 이미지를 가짜로 표시했습니다. 세 장의 이미지 일괄 테스트에서 첫 번째 이미지—실제로 손대지 않은 사진—를 오인했습니다. Sentinel은 평가를 중단했습니다. 진짜 이미지에서 실패하는 탐지기는 구매자가 정확한 판정을 기대하는 마켓플레이스에 팔 수 없습니다.
• Sightengine 합리적인 비용으로 완전 AI 생성 이미지는 탐지했습니다. 하지만 실제 사진에 대한 AI 수정—Sentinel이 잡기 위해 만들어진 핵심 사기 유형—은 탐지하지 못했습니다. 핵심 문제를 놓치는 도구는 더 싼 선택이 아니라 잘못된 도구입니다.
• Hive Moderation 테스트까지 가지 못했습니다. Hive는 가격을 공개하지 않았습니다. Sentinel 팀이 이메일을 세 번이나 네 번 보냈으나 응답이 없었습니다. Sentinel은 다음으로 넘어갔습니다.

이 결과 이후 Sentinel은 더 넓은 실제 사기 샘플로 TruthScan을 테스트하기 시작했습니다. Szmielew는 팀의 대응 속도가 차이를 만들었다고 말했습니다:

0:00 / 0:00

"회사가 정말 훌륭합니다. 기능 요청을 했는데 CEO가 답했고, 약 두 주 뒤에 반영됐어요. 정말 좋은 경험이었습니다."

Sentinel은 여러 탐지기를 순서대로 실행합니다. 대부분은 명백한 가짜—알려진 조작 패턴이 있는 완전 생성 이미지 등—를 잡습니다. 이미지가 그 필터를 통과하고 결과가 여전히 불확실하면 TruthScan이 최종 판정을 내립니다.

Szmielew는 역할을 이렇게 설명했습니다:

0:00 / 0:00

"TruthScan이 파이프라인의 최종 모델인 이유가 있습니다… 이전 결과가 불명확하면 TruthScan이 최종 판사입니다."

"다른 도구는 1차 방어선으로는 좋습니다… 하지만 진짜 승부는 TruthScan이 끝에서 모든 것을 해결합니다."

Sentinel은 이해관계자들과 함께 실제 사기 사례의 더 큰 데이터셋으로 TruthScan을 검증한 뒤 이렇게 파이프라인을 구축했습니다. TruthScan만이 실제 사진의 AI 수정을 안정적으로 식별했습니다—다른 탐지기가 놓친 사기 층입니다.

• 전체 테스트에서 불확실한 결과는 한 번뿐. Sentinel의 전체 테스트 세트에서 TruthScan은 불확실한 결과를 한 번만 반환했습니다. 나머지 모든 이미지는 명확한 판정(진짜 또는 가짜)을 받았습니다.

• Sentinel 탐지 역량의 90%가 TruthScan에 달려 있습니다. Szmielew에 따르면 TruthScan을 빼면 플랫폼의 AI 수정 사기 탐지 능력이 90% 줄어듭니다. Sentinel 파이프라인의 다른 도구는 기본 사례를 처리하고, TruthScan은 나머지를 담당합니다.

• 조달 지연 없음. Sentinel은 영업 승인이나 API 접근을 기다리지 않고 TruthScan을 통합했습니다—Hive 평가를 멈추게 했던 절차입니다. 수요가 늘어도 확장을 이어갈 수 있었습니다.

Szmielew의 말:

0:00 / 0:00

"통합이 정말 쉽습니다… 리스크는 매우 낮고요… AI 이미지 수정을 탐지하려면 지금은 이 도구가 적합하다고 봅니다."

Sentinel은 이제 테스트한 거의 모든 이미지에 명확한 결과를 주는 사기 탐지 제품을 판매합니다. 그 역량의 90%는 TruthScan이 제공합니다. OpenAI와 Hive는 할 수 없었습니다.

Sentinel은 Google Cloud for Startups 프로그램에 선정되었습니다. TruthScan 통합이 그 선정에 한 요인이었습니다. 이제 Sentinel은 초기 마켓플레이스 고객을 넘어 확장하고 있습니다.