Wie Sentinel TruthScan nutzt, um KI-gestützten Marktplatz-Betrug zu stoppen

Sentinel Pipeline erkennt vollständig KI-generierte Bilder. Das ist das einfache Problem. Das schwere ist, kleine KI-Bearbeitungen an echten Fotos zu erkennen (z. B. einen digital hinzugefügten Fleck auf einer echten Jacke oder einen komponierten Kratzer auf einem echten Bildschirm). Das ist die Betrugsart, die falsche Rückerstattungen auf Allegro antreibt, und hier scheiterten alle anderen von Sentinel getesteten Detektoren.

Bei der Betrugserkennung ist jedes Ergebnis binär: echt oder Fälschung. Wenn Sentinel einen legitimen Käufer als Betrüger markiert, verliert der Marktplatz das Vertrauen dieses Käufers. Zweimal gemacht, und der Marktplatz wirft Sentinel raus. Laut Szmielew:

Sentinel brauchte einen Detektor, der präzise genug war, um KI-Modifikationen auf Pixelebene zu erkennen, ohne echte Fotos falsch zu identifizieren.

Piotr stress-testete drei große Lösungen. Die Daten zeigten, dass Standard-KI-Detektoren kein tragfähiges kommerzielles Produkt unterstützen konnten.

• OpenAI Vision stufte legitime Bilder als Fälschung ein. In einem Stapeltest mit drei Bildern wurde das erste falsch eingestuft — ein echtes, unverändertes Foto. Sentinel brach die Auswertung ab. Ein Detektor, der bei authentischen Bildern versagt, kann nicht an einen Marktplatz verkauft werden, wo Käufer präzise Entscheidungen erwarten.
• Sightengine erkannte vollständig KI-generierte Bilder zu vernünftigen Kosten. Konnte aber keine KI-Modifikationen an echten Fotos erkennen — genau die Betrugsart, für die Sentinel gebaut wurde. Ein Tool, das das Kernproblem verfehlt, ist keine günstigere Option. Es ist das falsche Tool.
• Hive Moderation kam nie zum Test. Hive veröffentlichte keine Preise. Sentinels Team schickte drei oder vier E-Mails und bekam keine Antwort. Sentinel zog weiter.

Nach diesen Ergebnissen begann Sentinel, TruthScan an einem größeren Satz realer Betrugsproben zu testen. Szmielew sagte, die Reaktionsfähigkeit des Teams habe den Unterschied gemacht:

0:00 / 0:00

"Die Integration ist so einfach... das Risiko ist sehr gering... wenn Sie KI-Bildmanipulation erkennen wollen, ist das derzeit das richtige Tool."

Sentinel führt mehrere Detektoren nacheinander aus. Die meisten erkennen offensichtliche Fälschungen — etwa vollständig generierte Bilder mit bekannten Manipulationsmustern. Wenn ein Bild diese Filter passiert und das Ergebnis unklar bleibt, fällt TruthScan die endgültige Entscheidung.

Szmielew erklärte die Rolle klar:

0:00 / 0:00

"Darum ist TruthScan das letzte Modell in der Pipeline... Wenn die vorherigen Ergebnisse unschlüssig sind, ist TruthScan die letzte Instanz."

"Andere Tools sind gut als erste Linie... aber wenn es um die schweren Geschütze geht, steht TruthScan am Ende und löst alles."

Sentinel baute seine Pipeline so auf, nachdem TruthScan gegen einen größeren Datensatz realer Betrugsfälle mit weiteren Stakeholdern getestet wurde. TruthScan war das einzige Tool, das KI-Modifikationen an echten Fotos zuverlässig erkannte — die Betrugsschicht, die andere Detektoren verpassten.

• Ein inkonklusives Ergebnis in allen Tests. Über Sentinels gesamten Test-Set lieferte TruthScan einmal ein unsicheres Ergebnis. Jedes andere Bild erhielt eine eindeutige Entscheidung (echt oder Fälschung).

• 90 % von Sentinels Erkennungsfähigkeit hängen von TruthScan ab Szmielew sagte, das Entfernen von TruthScan würde die Fähigkeit seiner Plattform, KI-Modifikationsbetrug zu erkennen, um 90 % reduzieren. Die anderen Tools in Sentinels Pipeline decken die Basis-Fälle ab. TruthScan übernimmt den Rest.

• Keine Beschaffungsverzögerungen. Sentinel integrierte TruthScan, ohne auf Vertriebsfreigaben oder API-Zugang zu warten — Prozesse, die die Auswertungen mit Hive verzögerten. So konnte Sentinel mit steigender Nachfrage weiter skalieren.

In Szmielews eigenen Worten:

0:00 / 0:00

"Die Integration ist so einfach... das Risiko ist sehr gering... wenn Sie KI-Bildmanipulation erkennen wollen, ist das derzeit das richtige Tool."

Sentinel verkauft jetzt ein Betrugserkennungsprodukt, das bei fast jedem getesteten Bild ein eindeutiges Ergebnis liefert. TruthScan liefert 90 % dieser Fähigkeit. OpenAI und Hive konnten das nicht.

Sentinel wurde in das Programm Google Cloud for Startups aufgenommen. Die TruthScan-Integration war ein Faktor für diese Aufnahme. Und jetzt expandiert Sentinel über seine ersten Marktplatz-Kunden hinaus.