Como o Sentinel usa o TruthScan para combater fraudes em marketplaces com IA

O pipeline do Sentinel detecta imagens totalmente geradas por IA. Esse é o problema fácil. O difícil é detectar pequenas edições por IA em fotos reais (ex.: uma mancha adicionada digitalmente em uma jaqueta real, ou um arranhão composto em uma tela real). Esse é o tipo de fraude que gera reembolsos falsos no Allegro, e é onde todos os outros detectores que o Sentinel testou falharam.

Na detecção de fraude, todo resultado é binário: real ou falso. Se o Sentinel marcar um comprador legítimo como golpista, o marketplace perde a confiança desse comprador. Faça isso duas vezes e o marketplace dispensa o Sentinel. Segundo Szmielew:

O Sentinel precisava de um detector preciso o suficiente para captar modificações por IA em nível de pixel sem identificar erroneamente fotos reais.

Piotr testou sob estresse três soluções principais. Os dados mostraram que detectores de IA padrão não conseguiam suportar um produto comercial viável.

• OpenAI Vision sinalizou imagens legítimas como falsas. Em um teste em lote de três imagens, identificou erroneamente a primeira — uma foto real e não alterada. O Sentinel interrompeu a avaliação. Um detector que falha em imagens autênticas não pode ser vendido a um marketplace onde compradores esperam decisões precisas.
• Sightengine detectou imagens totalmente geradas por IA a um custo razoável. Mas não conseguiu detectar modificações por IA em fotos reais — o tipo específico de fraude que o Sentinel foi feito para combater. Uma ferramenta que erra o problema central não é uma opção mais barata. É a ferramenta errada.
• Hive Moderation nunca chegou aos testes. A Hive não publicou preços. A equipe do Sentinel enviou três ou quatro e-mails e não recebeu resposta. O Sentinel seguiu em frente.

Após esses resultados, o Sentinel começou a testar o TruthScan em um conjunto maior de amostras reais de fraude. Szmielew disse que a capacidade de resposta da equipe fez a diferença:

0:00 / 0:00

"É tão fácil integrar... o risco é muito baixo... se você quer detectar modificação de imagem por IA, acho que é a ferramenta certa para o trabalho agora."

O Sentinel executa vários detectores em sequência. A maioria detecta falsos óbvios — como imagens totalmente geradas com padrões conhecidos de manipulação. Quando uma imagem passa por esses filtros e o resultado continua incerto, o TruthScan dá a palavra final.

Szmielew explicou o papel com clareza:

0:00 / 0:00

"Essa é a razão de o TruthScan ser o modelo final no pipeline... Se os resultados anteriores forem inconclusivos, o TruthScan é o juiz final."

"Outras ferramentas são boas como primeira linha... mas quando precisamos de poder de fogo, o TruthScan está no final para resolver tudo."

O Sentinel construiu seu pipeline assim após testar o TruthScan com um conjunto maior de casos reais de fraude e outras partes interessadas. O TruthScan foi a única ferramenta que identificou de forma confiável modificações por IA em fotos reais — a camada de fraude que outros detectores perderam.

• Um resultado inconclusivo em todos os testes. Em todo o conjunto de testes do Sentinel, o TruthScan retornou um resultado incerto uma vez. Todas as outras imagens receberam decisão definitiva (real ou falso).

• 90% da capacidade de detecção do Sentinel depende do TruthScan Szmielew disse que remover o TruthScan reduziria em 90% a capacidade da plataforma de detectar fraude por modificação por IA. As outras ferramentas no pipeline do Sentinel tratam dos casos básicos. O TruthScan trata do resto.

• Sem atrasos de aquisição. O Sentinel integrou o TruthScan sem esperar aprovações de vendas ou acesso à API — processos que atrasaram as avaliações com a Hive. Isso permitiu ao Sentinel continuar escalando conforme a demanda aumentava.

Nas palavras do próprio Szmielew:

0:00 / 0:00

"É tão fácil integrar... o risco é muito baixo... se você quer detectar modificação de imagem por IA, acho que é a ferramenta certa para o trabalho agora."

O Sentinel agora vende um produto de detecção de fraude que retorna resultado definitivo em quase todas as imagens testadas. O TruthScan fornece 90% dessa capacidade. A OpenAI e a Hive não conseguiram.

O Sentinel foi aceito no programa Google Cloud for Startups. A integração com o TruthScan foi um fator nessa aceitação. E agora o Sentinel está se expandindo além dos clientes iniciais de marketplace.