Wie eine quasi-strafverfolgende US-Behörde TruthScan nutzt

Titelbild der Fallstudie: Anwendungsfall Strafverfolgung. Wie eine quasi-strafverfolgende US-Behörde Deepfakes mit TruthScan untersucht.

Auf einen Blick

Kürzlich hat eine Behörde mit Sitz in den USA (Name auf Wunsch nicht genannt) mehrere TruthScan-Lizenzen erworben.

Die Behörde untersucht mutmaßliche Rechtsverstöße (teils mit Bezug zu synthetischen oder manipulierten Medien). Sie nutzt TruthScan, um künstlich erzeugte Bilder, Videos und Audioinhalte zu erkennen.

Als quasi-strafverfolgende Behörde muss sie einen hohen Beweisstandard erfüllen. Die Behörde erwarb TruthScan-Lizenzen für ihr Team, nachdem sie das Produkt einen Monat lang getestet hatte.

Das Problem

Rund 56 % Genauigkeit, wenn Menschen beurteilen, ob Medieninhalte echt oder Deepfakes sind. Über die 56 Arbeiten der Metaanalyse von 2024 hinweg sind rund 44 % der menschlichen Einschätzungen falsch – nur 6 Prozentpunkte besser als ein Münzwurf.
Abbildung 1. Gepoolte Genauigkeit menschlicher Deepfake-Erkennung in 56 Studien (Metaanalyse von 2024).

Da Deepfakes (KI-Bilder und -Videos) inzwischen so echt wirken, sind sie immer schwerer zu erkennen. Als Team, das sich Ermittlungen mit KI-Bezug widmet, stellte die Behörde fest, dass sie bessere Tools brauchte, um KI-generierte Inhalte präzise zu identifizieren. Ihr Schwerpunkt liegt auf visuellen Medien.

Ohne präzise Erkennung hätte die Behörde womöglich Schwierigkeiten gehabt, Ermittlungen voranzutreiben und zutreffende Schlüsse zu ziehen. Vor TruthScan verließ sich ihr Team auf herkömmliche Methoden und menschliche Erkennung. Eine Metaanalyse von 2024, die 56 Arbeiten auswertete, wies über die analysierten Studien hinweg eine gepoolte Genauigkeit menschlicher Deepfake-Erkennung von rund 56 % aus.

Die Lösung

Neue Fortschritte in der generativen künstlichen Intelligenz erfordern neue Tools und Methoden, die speziell auf aufkommende KI-Bedrohungen zugeschnitten sind.

Laut internen Benchmarks liegt die Erkennungsgenauigkeit von TruthScan bei 99 %. TruthScan erkennt KI-generierte Bilder, Audioinhalte, Videos, Dokumente und Texte.

Balkendiagramm mit dem Titel „Wer erkennt KI-generierte Medien?“: menschliche Prüfer rund 56 % (Metaanalyse von 2024, 56 Arbeiten) und TruthScan 99 % (interne Benchmarks); 50 % sind als Zufallsniveau eines Münzwurfs markiert.
Abbildung 2. Gepoolte Genauigkeit menschlicher Deepfake-Erkennung (Metaanalyse von 2024 mit 56 Arbeiten) im Vergleich zu den internen Benchmarks von TruthScan.

Nachdem die Behörde TruthScan einen Monat lang getestet hatte, war sie der Ansicht, dass die Lösung den Anforderungen ihrer Ermittlungsarbeit und ihren Qualitätsstandards gerecht wird, und erwarb daraufhin mehrere Lizenzen für ihr Team.

Zeitstrahl vom ersten Test bis zu Lizenzen für das gesamte Team. Das Problem: Deepfakes sind dem Auge voraus, herkömmliche Methoden und menschliche Prüfung reichen nicht aus. 1-monatige Testphase: Prüfung anhand der eigenen Standards auf die Anforderungen der Ermittlungsarbeit und auf Qualität. Die Entscheidung: Treffen mit TruthScan, danach Erwerb von Lizenzen für das Team. Heute: Die Ergebnisse von TruthScan, kombiniert mit menschlicher Expertise.
Abbildung 3. Von der einmonatigen Testphase zu Lizenzen für das gesamte Team.

Inzwischen stützt sich die Behörde auf die technischen Ergebnisse von TruthScan in Kombination mit menschlichem Urteilsvermögen. Zu den Funktionen, die für ihr Team wertvoll und hilfreich sind, gehören:

Worauf sich das Team der Behörde stützt: forensische Bildanalyse, detaillierte Heatmaps, erläuterte Erkennungsscores, Sicherheit und Compliance (SOC 2 Type II und ISO/IEC 27001:2022), multimodale Erkennung sowie dedizierter Kundensupport mit 24/7-Erreichbarkeit nach Vereinbarung.
Abbildung 4. Die TruthScan-Funktionen, auf die sich das Team der Behörde stützt.

Funktionen, auf die es ankommt

Tabelle mit den Funktionen, ihrem jeweiligen Mehrwert und ihrem Nutzen für Ermittler: KI-Bildanalyse liefert eine technische Analyse, die über die visuelle Prüfung hinausgeht (erkennen). Detaillierte Heatmaps liefern mehr Anhaltspunkte zur Abwägung als ein Score allein (genauer hinsehen). Erkennungsscores und erläuternde Berichte unterstützen die Beurteilung, sind aber keine Entscheidung über Verstöße (priorisieren). Die Dokumentation zu Sicherheit und Compliance dient dem Abgleich der Kontrollen mit Vorgaben für sensibles Material (bewerten). Multimodale Erkennung deckt Bilder und Videos ab, dazu Audioinhalte, Dokumente und Texte (mehr abdecken). Dedizierter Kundensupport bietet einen direkten Ansprechpartner, mit 24/7-Support nach Vereinbarung (Antworten erhalten).
Tabelle 1. Die Funktionen, auf die es ankommt, und ihr Nutzen für die Ermittlungsarbeit.

Wie die Behörde TruthScan nutzt

Ihr Team nutzt TruthScan, um verdächtige visuelle Inhalte zu analysieren. Der vollständige Prozess der Organisation ist zwar vertraulich, sie setzt jedoch die Deepfake-Erkennung und die KI-Inhaltsanalyse von TruthScan ein.

Wird ein Inhalt als KI markiert, bedeutet das, dass die Behörde ihn weiter untersuchen muss.

Mit TruthScan erhält die Behörde schnell Erkennungsscores für Hunderte von Inhalten, was ihr hilft, ihre Ermittlungen anhand des Erkennungsscores zu fokussieren. Dass etwas als KI markiert wird, heißt nicht, dass das Team eine abschließende Entscheidung getroffen hat; die Organisation muss weiterhin tiefer graben und herausfinden, warum und von wem der Inhalt erstellt wurde.

Ablauf mit dem Titel „Eine Markierung eröffnet die Ermittlung. Sie beendet sie nicht.“ Schritte von TruthScan: 1. Analysieren: Scores für Hunderte von Inhalten. 2. Priorisieren: Fokus nach Erkennungsscore. Schritte der Behörde: 3. Ermitteln: warum und von wem der Inhalt erstellt wurde. 4. Abschließen: Die endgültige Entscheidung bleibt bei den Ermittlern. Vereinfachte Darstellung; der vollständige Ermittlungsprozess der Behörde ist vertraulich.
Abbildung 5. Wo sich TruthScan in den Ermittlungsablauf der Behörde einfügt.

TruthScan unterstützt Ermittler dabei, verdächtige Inhalte zu prüfen und weitere Untersuchungen zu priorisieren.

Ergebnisse und Wirkung

Bei der Untersuchung von Bildern folgen Ermittler in der Regel einem manuellen Prozess, der bis zu 20 Minuten dauern kann. Eine typische Bilduntersuchung umfasst das Auslesen und Prüfen der Metadaten, eine Beleuchtungsanalyse und den direkten Vergleich mutmaßlicher KI-Bilder nebeneinander.

TruthScan automatisiert diesen Prozess und verkürzt so die Dauer der Erstuntersuchung. Dazu analysiert die Software Metadaten, das Vorhandensein von Wasserzeichen, Bildmuster und mehr – alles gleichzeitig. Die Behörde hatte kürzlich 100 Fälle mutmaßlich KI-generierter Inhalte zu untersuchen. Mit TruthScan kann sie nun rund vier- bis fünfmal schneller ermitteln.

TruthScan untersucht Videoinhalte auf Anzeichen einer KI-Generierung. Für eine manuelle Prüfung Frame für Frame kann ein Ermittler je nach Länge bis zu einer Stunde brauchen; TruthScan analysiert die Videoframes und liefert innerhalb von Minuten einen Bericht samt Heatmap.

Dauer der Erstuntersuchung. Bilder: manuell bis zu 20 Minuten, mit TruthScan 4- bis 5-mal schneller. Video: manuell bis zu 1 Stunde, mit TruthScan im Minutenbereich. Jedes Paar ist auf seinen eigenen manuellen Ausgangswert skaliert, und die manuelle Prüfdauer bei Videos hängt von der Länge ab.
Abbildung 6. Dauer der Erstuntersuchung bei Bildern und Videos: manuell im Vergleich zu TruthScan.

Ausblick

TruthScan setzt sich dafür ein, KI-Betrug zu bekämpfen und die präzisesten KI-Erkennungsmodelle bereitzustellen. TruthScan spielt neue Updates seiner Erkennungsmodelle aus und trainiert kontinuierlich mit neuen Quellen KI-generierter Inhalte.

Mit dem Aufkommen neuer Bedrohungen durch KI-Betrug bleibt es das stetige Ziel von TruthScan, Einzelpersonen und Organisationen vor diesen Bedrohungen zu schützen.

Häufig gestellte Fragen

Aufgrund der Fortschritte bei der Qualität von KI-Bildern ist die visuelle Prüfung allein nicht mehr zuverlässig.

Vor dem Kauf der Lizenzen testete die Behörde die Erkennungssoftware von TruthScan. Nach einem Monat traf sie sich mit TruthScan und erwarb Lizenzen.

TruthScan spart Ermittlern Zeit, indem es schnell Bildanalysen auf forensischem Niveau durchführt. Die Software fügt zusätzliche Analyseebenen hinzu, die zu präzisen Ergebnissen beitragen, und erledigt zugleich bisher zeitaufwendige Aufgaben wie die Metadatenanalyse schnell.

TruthScan bietet Bild-, Dokumenten-, Video-, Audio- und Textanalysen. Ermittler wählen den Inhaltstyp aus, den sie analysieren müssen, und laden den Inhalt anschließend hoch oder leiten ihn an TruthScan weiter, um einen Bericht zu erhalten.

Erkennungsscores zeigen Ihnen, wie sicher sich das Modell ist, KI-Inhalte gefunden zu haben. Heatmaps machen sichtbar, wo die Software visuelle Muster oder Artefakte gefunden hat, die sie als verdächtig markiert. Berichte erläutern die Ergebnisse des Detektors.

Manche Befunde können eine KI-Generierung oder -Bearbeitung nachweisen, etwa ein verifiziertes Wasserzeichen oder ein authentifizierter Herkunftsnachweis aus einer vertrauenswürdigen Quelle. Andere Befunde (z. B. Modellscores und nicht verifizierte Metadaten) liefern unterstützende Anhaltspunkte für eine weitere Prüfung. Der Nachweis einer KI-Beteiligung belegt für sich genommen nicht, dass eine Tatsachenbehauptung falsch ist oder dass gegen ein Gesetz verstoßen wurde.

Ermittler sollten mögliche falsch positive und falsch negative Ergebnisse in Betracht ziehen und die Befunde zusammen mit anderen verfügbaren Beweismitteln bewerten. TruthScan stärkt die menschliche Expertise. Bei Betrugsermittlungen bleibt das menschliche Urteilsvermögen entscheidend.

TruthScan ist konform mit SOC 2 Type II und ISO 27001:2022 und unterstützt die DSGVO-Compliance. Zudem erstellt TruthScan individuelle Verträge zum Umgang mit Daten, die auf den jeweiligen geschäftlichen Bedarf zugeschnitten sind.

Kontakt

Bei Fragen zu dieser Fallstudie wenden Sie sich bitte an Devan Leos unter devan@truthscan.com oder news@truthscan.com.

Für Vertriebsanfragen füllen Sie bitte hier ein Formular aus.