Comment Sentinel utilise TruthScan pour lutter contre la fraude sur les places de marché alimentée par l'IA

Le pipeline de Sentinel détecte les images entièrement générées par l’IA. C’est le problème facile. Le difficile, c’est de détecter de petites modifications IA sur de vraies photos (ex. une tache ajoutée numériquement sur une veste réelle, ou une rayure composée sur un écran réel). C’est le type de fraude qui génère les faux remboursements sur Allegro, et c’est là que tous les autres détecteurs testés par Sentinel ont échoué.

En détection de fraude, chaque résultat est binaire : réel ou faux. Si Sentinel marque un acheteur légitime comme fraudeur, la place de marché perd sa confiance. Deux fois, et la place de marché abandonne Sentinel. Selon Szmielew :

Sentinel avait besoin d’un détecteur assez précis pour repérer les modifications IA au niveau du pixel sans identifier à tort de vraies photos.

Piotr a stress-testé trois solutions majeures. Les données ont montré que les détecteurs IA standard ne pouvaient pas soutenir un produit commercial viable.

• OpenAI Vision a signalé des images légitimes comme fausses. Dans un test par lot de trois images, il a mal identifié la première — une photo réelle et non modifiée. Sentinel a arrêté l’évaluation. Un détecteur qui échoue sur des images authentiques ne peut pas être vendu à une place de marché où les acheteurs attendent des décisions précises.
• Sightengine a détecté les images entièrement générées par l’IA à un coût raisonnable. Mais il n’a pas pu détecter les modifications IA sur de vraies photos — le type précis de fraude que Sentinel était fait pour combattre. Un outil qui rate le cœur du problème n’est pas une option moins chère. C’est le mauvais outil.
• Hive Moderation n’a jamais été testé. Hive n’a pas publié de tarifs. L’équipe Sentinel a envoyé trois ou quatre e-mails sans réponse. Sentinel est passé à autre chose.

Après ces résultats, Sentinel a commencé à tester TruthScan sur un ensemble plus large d’échantillons de fraude réels. Szmielew a dit que la réactivité de l’équipe a fait la différence :

0:00 / 0:00

"C'est si simple à intégrer... le risque est très faible... si vous voulez détecter la modification d'images par IA, c'est le bon outil pour le job aujourd'hui."

Sentinel exécute plusieurs détecteurs en séquence. La plupart repèrent les faux évidents — comme les images entièrement générées avec des schémas de manipulation connus. Quand une image passe ces filtres et que le résultat reste incertain, TruthScan a le dernier mot.

Szmielew a expliqué le rôle clairement :

0:00 / 0:00

"C'est pour ça que TruthScan est le dernier modèle dans le pipeline... Si les résultats précédents sont non concluants, TruthScan est le juge final."

"Les autres outils sont bons en première ligne... mais pour les gros calibres, TruthScan est là à la fin pour tout résoudre."

Sentinel a construit son pipeline ainsi après avoir testé TruthScan sur un jeu de données plus large de cas de fraude réels avec d’autres parties prenantes. TruthScan était le seul outil à identifier de façon fiable les modifications IA sur de vraies photos — la couche de fraude que les autres détecteurs rataient.

• Un résultat non concluant sur tous les tests. Sur tout l’ensemble de tests de Sentinel, TruthScan n’a renvoyé qu’une fois un résultat incertain. Toutes les autres images ont reçu une décision définitive (réel ou faux).

• 90 % des capacités de détection de Sentinel dépendent de TruthScan Szmielew a dit que retirer TruthScan réduirait de 90 % la capacité de sa plateforme à détecter la fraude par modification IA. Les autres outils du pipeline Sentinel gèrent les cas de base. TruthScan gère le reste.

• Aucun délai d’approvisionnement. Sentinel a intégré TruthScan sans attendre d’accord commercial ni accès API — des processus qui ont retardé les évaluations avec Hive. Cela a permis à Sentinel de continuer à monter en charge avec la demande.

Dans les mots de Szmielew :

0:00 / 0:00

"C'est si simple à intégrer... le risque est très faible... si vous voulez détecter la modification d'images par IA, c'est le bon outil pour le job aujourd'hui."

Sentinel vend désormais un produit de détection de fraude qui renvoie un résultat définitif sur presque toutes les images testées. TruthScan fournit 90 % de cette capacité. OpenAI et Hive n’ont pas pu.

Sentinel a été accepté dans le programme Google Cloud for Startups. L’intégration TruthScan a joué dans cette acceptation. Et maintenant Sentinel s’étend au-delà de ses premiers clients place de marché.