Como um órgão quase policial dos EUA usa o TruthScan

Capa do caso de sucesso: caso de uso em aplicação da lei. Como um órgão quase policial dos EUA investiga deepfakes com o TruthScan.

Em resumo

Recentemente, um órgão sediado nos EUA (nome da organização omitido a pedido) adquiriu várias licenças do TruthScan.

O órgão investiga suspeitas de violação da lei (algumas envolvendo mídia sintética ou manipulada). Com o TruthScan, ele detecta imagens, vídeos e áudios gerados artificialmente.

Por ser um órgão quase policial, ele precisa atender a um alto padrão probatório. O órgão adquiriu licenças do TruthScan para sua equipe depois de testar o produto por um mês.

O problema

Precisão de cerca de 56% quando pessoas avaliam se uma mídia é real ou um deepfake. Nos 56 artigos da meta-análise de 2024, cerca de 44% das avaliações humanas estão erradas, apenas 6 pontos melhor do que jogar cara ou coroa.
Figura 1. Precisão humana agregada na detecção de deepfake em 56 estudos (meta-análise de 2024).

Agora que os deepfakes (imagens e vídeos gerados por IA) parecem tão reais, está ficando difícil identificá-los. Como equipe dedicada a investigações envolvendo IA, o órgão percebeu que precisava de ferramentas melhores para detectar conteúdo gerado por IA com precisão. O foco está na mídia visual.

Sem uma detecção precisa, o órgão poderia ter enfrentado dificuldades para conduzir investigações e chegar a conclusões precisas. Antes do TruthScan, a equipe dependia de métodos tradicionais e da detecção humana. Uma meta-análise de 2024 com 56 artigos relatou uma precisão humana agregada de aproximadamente 56% na detecção de deepfake nos estudos analisados.

A solução

Os novos avanços da inteligência artificial generativa exigem novas ferramentas e métodos desenvolvidos especificamente para as ameaças emergentes de IA.

Benchmarks internos situam a precisão de detecção do TruthScan em 99%. O TruthScan detecta imagens, áudios, vídeos, documentos e textos gerados por IA.

Gráfico de barras intitulado “Quem detecta mídia gerada por IA?”: revisores humanos com cerca de 56% (meta-análise de 2024, 56 artigos) e TruthScan com 99% (benchmarks internos), com 50% marcado como a chance de acerto no cara ou coroa.
Figura 2. Precisão humana agregada na detecção de deepfake (meta-análise de 2024 com 56 artigos) vs. benchmarks internos do TruthScan.

Depois de testar o TruthScan por um mês, o órgão considerou que a ferramenta atendia às suas necessidades investigativas e aos seus padrões de qualidade e, então, adquiriu várias licenças para a equipe.

Linha do tempo do primeiro teste às licenças para toda a equipe. O problema: os deepfakes superam o olho humano, e os métodos tradicionais e a revisão humana ficam aquém. Teste de 1 mês: avaliação de acordo com os padrões do órgão quanto às necessidades investigativas e à qualidade. A decisão: reunião com o TruthScan e, em seguida, aquisição de licenças para a equipe. Hoje: as constatações do TruthScan, aliadas à expertise humana.
Figura 3. Do teste de um mês às licenças para toda a equipe.

Agora, o órgão se apoia nas constatações técnicas do TruthScan, combinadas ao julgamento humano. Alguns dos recursos valiosos e úteis para a equipe são:

Recursos em que a equipe do órgão se apoia: análise forense de imagens, mapas de calor detalhados, pontuações de detecção explicadas, segurança e conformidade (SOC 2 Type II e ISO/IEC 27001:2022), detecção multimodal e suporte de conta dedicado com cobertura 24/7 mediante acordo.
Figura 4. Os recursos do TruthScan em que a equipe do órgão se apoia.

Os recursos que importam

Tabela de recursos, o que cada um acrescenta e como ajuda os investigadores: a análise de imagens com IA acrescenta uma análise técnica que vai além da inspeção visual (identificar). Mapas de calor detalhados oferecem mais evidências a ponderar do que uma pontuação isolada (examinar de perto). Pontuações de detecção e relatórios explicativos apoiam o julgamento e não são uma decisão sobre violações (priorizar). A documentação de segurança e conformidade verifica os controles em relação às regras para material sensível (avaliar). A detecção multimodal abrange imagens e vídeo, além de áudio, documentos e texto (ampliar a cobertura). O suporte de conta dedicado oferece um contato direto, com suporte 24/7 mediante acordo (obter respostas).
Tabela 1. Os recursos que importam e seu valor para o trabalho investigativo.

Como o órgão usa o TruthScan

A equipe do órgão usa o TruthScan para analisar conteúdo visual suspeito. Embora o processo completo da organização seja proprietário, ela usa os recursos de detecção de deepfake e de análise de conteúdo de IA do TruthScan.

Quando algo é sinalizado como IA, isso significa que o órgão precisa investigá-lo mais a fundo.

Com o TruthScan, o órgão consegue obter rapidamente pontuações de detecção para centenas de itens de conteúdo, o que ajuda a direcionar as investigações de acordo com a pontuação de detecção. Quando algo é sinalizado como IA, isso não significa que a equipe tenha tomado uma decisão final; a organização ainda precisa se aprofundar e descobrir por que o conteúdo foi criado e por quem.

Fluxo de trabalho intitulado “Um alerta dá início à investigação. Não a encerra.” Etapas do TruthScan: 1. Analisar, pontuações para centenas de itens. 2. Priorizar, foco conforme a pontuação de detecção. Etapas do órgão: 3. Investigar, por que foi criado e por quem. 4. Concluir, a decisão final cabe aos investigadores. Visão simplificada; o processo investigativo completo do órgão é proprietário.
Figura 5. Onde o TruthScan se encaixa no fluxo de investigação do órgão.

O TruthScan ajuda os investigadores a revisar conteúdo suspeito e a priorizar análises mais aprofundadas.

Desfecho e resultados

Ao investigar imagens, os investigadores costumam seguir um processo manual que pode levar até 20 minutos. O processo típico de investigação de imagens consiste em extrair e inspecionar metadados, analisar a iluminação e comparar lado a lado as imagens suspeitas de terem sido geradas por IA.

O TruthScan automatiza esse processo e reduz o tempo da investigação inicial. Para isso, analisa metadados, presença de marcas d’água, padrões da imagem e muito mais, tudo de uma só vez. Recentemente, o órgão tinha 100 casos de suspeita de conteúdo gerado por IA para investigar. Com o TruthScan, agora consegue investigar cerca de quatro a cinco vezes mais rápido.

O TruthScan analisa conteúdo em vídeo em busca de sinais de geração por IA. A revisão manual quadro a quadro pode levar até uma hora para um investigador, dependendo da duração; o TruthScan analisa os quadros do vídeo e retorna um relatório e um mapa de calor em questão de minutos.

Tempo de investigação inicial. Imagens: até 20 minutos no processo manual, de 4 a 5 vezes mais rápido com o TruthScan. Vídeo: até 1 hora no processo manual, minutos com o TruthScan. Cada par segue a escala da sua própria referência manual, e o tempo manual para vídeo varia conforme a duração.
Figura 6. Tempo de investigação inicial para imagens e vídeo, manual vs. TruthScan.

Olhando para o futuro

O TruthScan tem o compromisso de combater fraudes baseadas em IA e de oferecer os modelos de detecção de IA mais precisos. O TruthScan disponibiliza novas atualizações dos modelos de detecção e treina continuamente com novas fontes de geração por IA.

À medida que surgem novas ameaças de fraude baseada em IA, o objetivo constante do TruthScan é defender pessoas e organizações contra elas.

Perguntas frequentes

Com os avanços na qualidade das imagens geradas por IA, a inspeção visual por si só já não é confiável.

Antes de comprar as licenças, o órgão testou o software de detecção do TruthScan. Depois de um mês, o órgão se reuniu com o TruthScan e adquiriu as licenças.

O TruthScan economiza o tempo dos investigadores ao realizar rapidamente análises de imagem de nível forense. Ele acrescenta camadas extras de análise que ajudam a chegar a resultados precisos e, ao mesmo tempo, executa com rapidez tarefas que antes consumiam muito tempo, como a análise de metadados.

O TruthScan oferece análise de imagens, documentos, vídeos, áudios e textos. Os investigadores selecionam o tipo de conteúdo que precisam analisar e, em seguida, fazem o upload do conteúdo ou o direcionam ao TruthScan para receber um relatório.

As pontuações de detecção indicam o grau de confiança do modelo ao identificar conteúdo de IA. Os mapas de calor mostram onde o software encontrou padrões visuais ou artefatos que ele sinaliza como suspeitos. Os relatórios explicam os resultados do detector.

Algumas constatações podem estabelecer a geração ou edição por IA, como uma marca d’água verificada ou uma proveniência autenticada de uma fonte confiável. Outras constatações (ex.: pontuações do modelo e metadados não verificados) fornecem indicadores de apoio para revisão adicional. Estabelecer o envolvimento de IA não estabelece, por si só, que uma alegação factual seja falsa ou que uma lei tenha sido violada.

Os investigadores devem considerar possíveis falsos positivos e falsos negativos e avaliar os resultados em conjunto com as demais evidências disponíveis. O TruthScan atua reforçando a expertise humana. O julgamento humano continua sendo fundamental em investigações de fraude.

O TruthScan está em conformidade com SOC 2 Type II e ISO 27001:2022 e oferece suporte à conformidade com o GDPR. O TruthScan também elabora contratos personalizados de tratamento de dados, adequados a cada necessidade de negócio.

Contato

Para qualquer dúvida sobre este caso de sucesso, entre em contato com Devan Leos pelos e-mails devan@truthscan.com ou news@truthscan.com.

Para assuntos relacionados a vendas, envie um formulário aqui.