Come Sentinel Usa TruthScan per Fermare le Frodi di Marketplace Potenzialmente da AI

La pipeline di Sentinel cattura immagini completamente generate da AI. Questo è il problema facile. Il problema difficile è rilevare piccole modifiche AI a foto reali (es. una macchia aggiunta digitalmente su una giacca reale, o un graffio composito su uno schermo reale). Questo è il tipo di frode che guida i reclami di rimborso falsi su Allegro, ed è dove ogni altro rilevatore testato da Sentinel ha fallito.

Nel rilevamento frodi, ogni risultato è binario: reale o falso. Se Sentinel segnala un acquirente legittimo come truffatore, il marketplace perde la fiducia di quell'acquirente. Fallo due volte e il marketplace abbandona Sentinel. Secondo Szmielew:

Sentinel aveva bisogno di un rilevatore abbastanza accurato da catturare modifiche AI a livello di singolo pixel senza identificare erroneamente foto reali.

Piotr ha stress-testato tre principali soluzioni. I dati hanno mostrato che i rilevatori AI standard non potevano supportare un prodotto commerciale vitale.

• OpenAI Vision ha segnalato immagini legittime come false. In un test batch di tre immagini, ha identificato erroneamente la prima immagine — una foto reale e inalterata. Sentinel ha interrotto la valutazione. Un rilevatore che fallisce su immagini autentiche non può essere venduto a un marketplace dove gli acquirenti si aspettano decisioni accurate.
• Sightengine ha rilevato immagini completamente generate da AI a un costo ragionevole. Ma non poteva rilevare modifiche AI a foto reali — il tipo specifico di frode che Sentinel è stato costruito per catturare. Uno strumento che manca il problema principale non è un'opzione più economica. È lo strumento sbagliato.
• Hive Moderation non è mai arrivato ai test. Hive non ha pubblicato prezzi. Il team di Sentinel ha inviato tre o quattro email e non ha ricevuto risposta. Sentinel è andato avanti.

Dopo questi risultati, Sentinel ha iniziato a testare TruthScan su un set più ampio di campioni di frodi del mondo reale. Szmielew ha detto che la reattività del team ha fatto la differenza:

0:00 / 0:00

"L'azienda è straordinaria. Ho avuto una richiesta di funzionalità e il CEO mi ha risposto e, tipo, due settimane dopo era lì. Quindi è stata un'esperienza molto, molto piacevole."

Sentinel esegue più rilevatori in sequenza. La maggior parte cattura falsi ovvi — come immagini completamente generate con pattern di manipolazione noti. Quando un'immagine supera quei filtri e il risultato rimane incerto, TruthScan prende la decisione finale.

Szmielew ha spiegato il ruolo chiaramente:

0:00 / 0:00

"C'è il motivo per cui TruthScan è lì come modello finale nella pipeline... Se i risultati precedenti sono inconcludenti, allora TruthScan è il giudice finale."

"Altri strumenti sono buoni come prima linea... ma quando si tratta di armi pesanti, TruthScan è lì alla fine per risolvere tutto."

Sentinel ha costruito la sua pipeline in questo modo dopo aver testato TruthScan su un dataset più ampio di casi di frodi reali con stakeholder aggiuntivi. TruthScan era l'unico strumento che identificava in modo affidabile le modifiche AI a foto reali — il layer di frode che altri rilevatori mancavano.

• Un risultato inconcludente su tutti i test. Su tutto il set di test completo di Sentinel, TruthScan ha restituito un risultato incerto una volta. Ogni altra immagine ha ricevuto una decisione definitiva (reale o falsa).

• Il 90% della capacità di rilevamento di Sentinel dipende da TruthScan. Szmielew ha detto che rimuovere TruthScan ridurrebbe la capacità della sua piattaforma di rilevare frodi di modifiche AI del 90%. Gli altri strumenti nella pipeline di Sentinel gestiscono casi base. TruthScan gestisce il resto.

• Nessun ritardo di approvvigionamento. Sentinel ha integrato TruthScan senza aspettare approvazioni di vendita o accesso API — processi che hanno bloccato le valutazioni con Hive. Questo ha permesso a Sentinel di continuare a scalare mentre la domanda aumentava.

Nelle parole di Szmielew:

0:00 / 0:00

"È così facile da integrare... il rischio è molto basso... se stai cercando di rilevare modifiche di immagini AI, penso che sia lo strumento giusto per il lavoro in questo momento."

Sentinel ora vende un prodotto di rilevamento frodi che restituisce un risultato definitivo su quasi tutte le immagini testate. TruthScan fornisce il 90% di quella capacità. OpenAI e Hive non potevano.

Sentinel è stato accettato nel programma Google Cloud for Startups. L'integrazione TruthScan è stata un fattore in quell'accettazione. E ora, Sentinel si sta espandendo oltre i suoi clienti marketplace iniziali.