Cómo un organismo cuasipolicial de EE. UU. usa TruthScan

Portada del caso de éxito: caso de uso en aplicación de la ley. Cómo un organismo cuasipolicial de EE. UU. investiga deepfakes con TruthScan.

En resumen

Recientemente, un organismo con sede en EE. UU. (cuyo nombre se omite a petición propia) adquirió varias licencias de TruthScan.

El organismo investiga presuntas infracciones de la ley (algunas relacionadas con medios sintéticos o manipulados). Utiliza TruthScan para detectar imágenes, videos y audio generados artificialmente.

Como organismo cuasipolicial, debe cumplir un alto estándar probatorio. El organismo adquirió licencias de TruthScan para su equipo tras probar el producto durante un mes.

El problema

Alrededor del 56% de precisión cuando las personas juzgan si un contenido es real o un deepfake. En el conjunto de los 56 artículos del metaanálisis de 2024, cerca del 44% de las valoraciones humanas son erróneas, solo 6 puntos mejor que lanzar una moneda al aire.
Figura 1. Precisión humana combinada en la detección de deepfakes en 56 estudios (metaanálisis de 2024).

Ahora que los deepfakes (imágenes y videos generados por IA) parecen tan reales, cada vez resulta más difícil detectarlos. Como equipo dedicado a investigaciones relacionadas con la IA, el organismo se dio cuenta de que necesitaba mejores herramientas para detectar con precisión el contenido generado por IA. Su atención se centra en los medios visuales.

Sin una detección precisa, el organismo podría haber tenido dificultades para llevar adelante sus investigaciones y extraer conclusiones acertadas. Antes de TruthScan, su equipo dependía de métodos tradicionales y de la detección humana. Un metaanálisis de 2024 sobre 56 artículos señaló que, en los estudios analizados, la precisión humana combinada en la detección de deepfakes fue de aproximadamente el 56%.

La solución

Los nuevos avances en inteligencia artificial generativa exigen herramientas y métodos nuevos, diseñados específicamente para las amenazas emergentes de la IA.

Las pruebas comparativas internas sitúan la precisión de detección de TruthScan en el 99%. TruthScan detecta imágenes, audio, videos, documentos y texto generados por IA.

Gráfico de barras titulado «¿Quién detecta el contenido generado por IA?»: revisores humanos, alrededor del 56% (metaanálisis de 2024, 56 artículos), y TruthScan, 99% (pruebas comparativas internas), con el 50% señalado como la probabilidad de acertar al lanzar una moneda.
Figura 2. Precisión humana combinada en la detección de deepfakes (metaanálisis de 2024 sobre 56 artículos) frente a las pruebas comparativas internas de TruthScan.

Tras probar TruthScan durante un mes, el organismo consideró que satisfacía sus necesidades de investigación y cumplía sus estándares de calidad, y después adquirió varias licencias para su equipo.

Cronología desde la primera prueba hasta las licencias para todo el equipo. El problema: los deepfakes superan al ojo humano, y los métodos tradicionales y la revisión humana se quedan cortos. Prueba de un mes: evaluación conforme a sus necesidades de investigación y sus estándares de calidad. La decisión: reunión con TruthScan y, después, adquisición de licencias para el equipo. Hoy: los hallazgos de TruthScan, combinados con la pericia humana.
Figura 3. De una prueba de un mes a licencias para todo el equipo.

Ahora, el organismo se apoya en los hallazgos técnicos de TruthScan combinados con el criterio humano. Algunas de las funciones que resultan valiosas y útiles para su equipo son:

En qué se apoya el equipo del organismo: análisis forense de imágenes, mapas de calor detallados, puntuaciones de detección explicadas, seguridad y cumplimiento normativo (SOC 2 Type II e ISO/IEC 27001:2022), detección multimodal y soporte de cuenta dedicado con cobertura 24/7 previo acuerdo.
Figura 4. Las funciones de TruthScan en las que se apoya el equipo del organismo.

Las funciones que importan

Tabla de funciones, lo que aporta cada una y cómo ayuda a los investigadores: el análisis de imágenes con IA aporta un análisis técnico que va más allá de la inspección visual (detectar). Los mapas de calor detallados ofrecen más evidencia para valorar que una puntuación por sí sola (mirar más de cerca). Las puntuaciones de detección y los informes explicativos sirven de apoyo al criterio, no de dictamen sobre infracciones (priorizar). La documentación de seguridad y cumplimiento normativo permite contrastar los controles con las normas sobre material sensible (evaluar). La detección multimodal cubre imágenes y video, además de audio, documentos y texto (abarcar más). El soporte de cuenta dedicado ofrece un contacto directo, con soporte 24/7 previo acuerdo (obtener respuestas).
Tabla 1. Las funciones que importan y su valor para el trabajo de investigación.

Cómo usa TruthScan el organismo

Su equipo usa TruthScan para analizar contenido visual sospechoso. Aunque el proceso completo de la organización es confidencial, utiliza las funciones de TruthScan de detección de deepfakes y de análisis de contenido generado por IA.

Cuando algo se marca como generado por IA, significa que el organismo tiene que investigarlo más a fondo.

Con TruthScan, el organismo puede obtener rápidamente puntuaciones de detección de cientos de contenidos, lo que ayuda a centrar sus investigaciones según la puntuación de detección. Que algo se marque como generado por IA no significa que el equipo haya emitido un dictamen definitivo; la organización aún tiene que profundizar y averiguar por qué y por quién se creó el contenido.

Flujo de trabajo titulado «Una alerta abre la investigación. No la cierra». Pasos de TruthScan: 1. Analizar: puntuaciones de cientos de elementos. 2. Priorizar: enfoque según la puntuación de detección. Pasos del organismo: 3. Investigar: por qué y por quién se creó. 4. Concluir: el dictamen final queda en manos de los investigadores. Vista simplificada; el proceso de investigación completo del organismo es confidencial.
Figura 5. Dónde encaja TruthScan en el flujo de trabajo de investigación del organismo.

TruthScan ayuda a los investigadores a revisar el contenido sospechoso y a priorizar qué examinar más a fondo.

Resultados

Al investigar imágenes, los investigadores suelen seguir un proceso manual que puede llevar hasta 20 minutos. El proceso habitual de investigación de una imagen consiste en extraer e inspeccionar los metadatos, analizar la iluminación y comparar lado a lado las imágenes presuntamente generadas por IA.

TruthScan automatiza ese proceso y reduce el tiempo de la investigación inicial. Para ello, analiza a la vez los metadatos, la presencia de marcas de agua y los patrones de la imagen, entre otros elementos. Hace poco, el organismo tuvo que investigar 100 casos de contenido presuntamente generado por IA. Con TruthScan, ahora puede investigar aproximadamente entre cuatro y cinco veces más rápido.

TruthScan analiza el contenido de video en busca de indicios de generación por IA. La revisión manual fotograma a fotograma puede llevarle a un investigador hasta una hora, según la duración; TruthScan analiza los fotogramas del video y devuelve un informe y un mapa de calor en cuestión de minutos.

Tiempo de investigación inicial. Imágenes: hasta 20 minutos de forma manual, de 4 a 5 veces más rápido con TruthScan. Video: hasta 1 hora de forma manual, minutos con TruthScan. Cada par está escalado respecto a su propia referencia manual, y el tiempo manual del video varía según su duración.
Figura 6. Tiempo de investigación inicial de imágenes y video: manual frente a TruthScan.

De cara al futuro

TruthScan se compromete a combatir el fraude con IA y a ofrecer los modelos de detección de IA más precisos. TruthScan despliega nuevas actualizaciones de sus modelos de detección y los entrena continuamente con nuevas fuentes de generación por IA.

A medida que surgen nuevas amenazas de fraude con IA, el objetivo constante de TruthScan es defender a personas y organizaciones frente a ellas.

Preguntas frecuentes

Debido a los avances en la calidad de las imágenes generadas por IA, la inspección visual por sí sola ya no es fiable.

Antes de comprar licencias, el organismo probó el software de detección de TruthScan. Al cabo de un mes, se reunió con TruthScan y adquirió licencias.

TruthScan ahorra tiempo a los investigadores al realizar rápidamente análisis de imágenes de nivel forense. Añade capas adicionales de análisis que ayudan a obtener resultados precisos y, al mismo tiempo, resuelve con rapidez tareas que antes llevaban mucho tiempo, como el análisis de metadatos.

TruthScan ofrece análisis de imágenes, documentos, video, audio y texto. Los investigadores seleccionan el tipo de contenido que necesitan analizar y, a continuación, lo suben o lo remiten a TruthScan para recibir un informe.

Las puntuaciones de detección le indican el grado de confianza del modelo al identificar contenido generado por IA. Los mapas de calor muestran dónde encontró el software patrones visuales o artefactos que marca como sospechosos. Los informes explican los resultados del detector.

Algunos hallazgos pueden acreditar la generación o la edición con IA, como una marca de agua verificada o una procedencia autenticada de una fuente de confianza. Otros hallazgos (p. ej., las puntuaciones del modelo y los metadatos no verificados) aportan indicios complementarios para una revisión adicional. Acreditar la intervención de la IA no acredita, por sí solo, que una afirmación fáctica sea falsa ni que se haya infringido una ley.

Los investigadores deberían tener en cuenta los posibles falsos positivos y falsos negativos, y evaluar los resultados junto con el resto de la evidencia disponible. TruthScan funciona reforzando la pericia humana. El criterio humano sigue siendo clave en las investigaciones de fraude.

TruthScan cumple con SOC 2 Type II e ISO 27001:2022 y respalda el cumplimiento del GDPR. TruthScan también elabora contratos personalizados de tratamiento de datos adaptados a cada necesidad empresarial.

Contacto

Si tiene alguna pregunta sobre este caso de éxito, póngase en contacto con Devan Leos en devan@truthscan.com o news@truthscan.com.

Para consultas comerciales, envíe un formulario aquí.