Sentinel dùng TruthScan như thế nào để chặn gian lận sàn thương mại bằng AI

Pipeline của Sentinel bắt được ảnh hoàn toàn do AI tạo — đó là phần dễ. Phần khó là phát hiện chỉnh sửa AI nhỏ trên ảnh thật (ví dụ vết bẩn đặt thêm trên áo khoác thật, hay vết trầy ghép lên màn hình thật). Đó là kiểu gian lận thúc đẩy yêu cầu hoàn tiền sai trên Allegro, và mọi công cụ Sentinel thử khác đều thất bại ở đó.

Trong phát hiện gian lận, mỗi kết quả đều nhị phân: thật hay giả. Nếu Sentinel gắn cờ người mua hợp lệ là lừa đảo, sàn mất niềm tin. Lặp lại hai lần, sàn bỏ Sentinel. Theo Szmielew:

Sentinel cần một bộ phát hiện đủ chính xác để bắt chỉnh sửa AI cấp độ pixel mà không nhầm ảnh thật.

Piotr đã stress-test ba giải pháp lớn. Dữ liệu cho thấy bộ phát hiện AI thông thường không đủ để làm sản phẩm thương mại khả thi.

• OpenAI Vision đánh dấu ảnh hợp lệ là giả. Trong một lô ba ảnh, ảnh đầu — ảnh thật, chưa chỉnh — bị nhận nhầm. Sentinel dừng đánh giá. Bộ phát hiện thất bại trên ảnh xác thực không thể bán cho sàn mà người mua kỳ vọng phán quyết chính xác.
• Sightengine phát hiện ảnh hoàn toàn do AI tạo với chi phí hợp lý, nhưng không bắt được chỉnh sửa AI trên ảnh thật — đúng loại gian lận Sentinel nhắm tới. Công cụ bỏ sót vấn đề cốt lõi không phải lựa chọn rẻ hơn — sai công cụ.
• Hive Moderation không bao giờ được thử. Hive không công bố giá; đội Sentinel gửi ba bốn email và không nhận hồi. Sentinel chuyển sang bước khác.

Sau các kết quả này, Sentinel bắt đầu thử TruthScan trên tập mẫu gian lật thực tế lớn hơn. Szmielew nói sự phản hồi của đội đã tạo khác biệt:

0:00 / 0:00

"Công ty thật tuyệt. Tôi có yêu cầu tính năng, CEO trả lời, và khoảng hai tuần sau đã có. Đó là trải nghiệm rất, rất dễ chịu."

Sentinel chạy nhiều bộ phát hiện theo thứ tự. Phần lớn bắt ảnh giả rõ ràng — ví dụ ảnh tạo hoàn toàn với mẫu thao tác đã biết. Khi ảnh qua các bộ lọc và kết quả vẫn không chắc, TruthScan đưa ra quyết định cuối.

Szmielew giải thích vai trò rõ ràng:

0:00 / 0:00

"Đó là lý do TruthScan là mô hình cuối trong pipeline... Nếu kết quả trước không rõ, TruthScan là trọng tài cuối."

"Công cụ khác tốt cho tuyến đầu... nhưng khi cần hỏa lực mạnh, TruthScan ở cuối để xử lý mọi thứ."

Sentinel xây pipeline như vậy sau khi thử TruthScan trên tập dữ liệu gian lật thực lớn hơn với các bên liên quan. TruthScan là công cụ duy nhất đáng tin khi nhận diện chỉnh sửa AI trên ảnh thật — lớp gian lận mà các bộ phát hiện khác bỏ sót.

• Một lần không kết luận trong toàn bộ thử nghiệm. Trên toàn bộ tập thử của Sentinel, TruthScan chỉ một lần trả về không chắc. Mọi ảnh khác đều có phán quyết rõ (thật hay giả).

• 90% khả năng phát hiện của Sentinel phụ thuộc TruthScan. Szmielew nói bỏ TruthScan sẽ cắt khoảng 90% khả năng phát hiện gian lận chỉnh sửa AI. Các công cụ khác trong pipeline xử lý ca cơ bản; TruthScan xử lý phần còn lại.

• Không trì hoãn mua sắm. Sentinel tích hợp TruthScan mà không chờ duyệt bán hàng hay quyền API — quy trình đã khiến đánh giá Hive đình trệ. Sentinel tiếp tục mở rộng khi nhu cầu tăng.

Lời Szmielew:

0:00 / 0:00

"Tích hợp rất dễ... rủi ro rất thấp... nếu bạn cần phát hiện chỉnh sửa ảnh AI, đó là công cụ phù hợp thời điểm này."

Sentinel giờ bán sản phẩm phát hiện gian lận cho kết quả rõ ràng trên gần như mọi ảnh thử. TruthScan cung cấp 90% khả năng đó. OpenAI và Hive không làm được.

Sentinel được chấp nhận vào chương trình Google Cloud for Startups. Tích hợp TruthScan là một yếu tố. Giờ Sentinel mở rộng vượt khách sàn ban đầu.