Como proteger as filmagens de vigilância contra adulterações geradas por IA

Atualmente, é mais fácil interferir nas imagens de vigilância devido à crescente sofisticação das ferramentas de inteligência artificial.

Os manipuladores de vídeo são agora capazes de editar vídeos da forma que outrora custou a Hollywood um orçamento e uma equipa de artistas de efeitos visuais.

Por conseguinte, se estiver envolvido em sistemas de segurança, é necessário que compreenda porquê e como proteger as imagens de vigilância contra interferências baseadas em IA.

---

Principais conclusões

• A adulteração da IA está a tornar-se mais avançada

• Não se pode confiar totalmente nos olhos humanos para detetar adulterações 

• A IA tem de ser utilizada para combater proactivamente a adulteração gerada pela IA

---

O que são as imagens de vigilância?

Basta olhar para ‘vigilância’ e ‘filmagem’ separadamente para ter uma ideia aproximada do que significa filmagem de vigilância, mas se não tiver, isso não é problema. 

As imagens de vigilância são vídeos captados por câmaras de segurança. É utilizado para monitorizar, gravar e rever a atividade num local específico.

Pode dizer-se que é o olho digital de um imóvel que mostra um registo cronológico da realidade.

As imagens de vigilância podem provir de uma variedade de fontes, incluindo:

• Sistemas CCTV
• Câmaras de vigilância para escritórios e armazéns
• Câmaras de lojas de retalho
• Sistemas de segurança do governo
• Câmaras de segurança domésticas inteligentes

Estas imagens são utilizadas por muitas razões, como a prevenção de crimes, a investigação de incidentes, a apresentação de provas em processos judiciais e a monitorização de actividades em tempo real.

Devido à utilização destas filmagens, a segurança da vigilância depende da confiança. Por conseguinte, assim que algo é captado numa câmara de segurança, parte-se do princípio de que o que está na câmara de segurança ocorreu realmente.

Portanto, se um vídeo de vigilância não é fiável, então qual é a utilidade de todo o sistema? É aí que entra a adulteração por inteligência artificial.

Porque é que a adulteração da IA é uma ameaça crescente

Violação da IA é a atividade deliberada e não autorizada de alterar sistemas de inteligência artificial com o objetivo de os levar a fornecer resultados imprecisos, tendenciosos ou maliciosos.

Trata-se de uma tentativa de interferir com Dados de treino de IA, algoritmos ou modelos com o objetivo de comprometer a integridade e a fiabilidade da inteligência artificial.  

Então, porque é que a adulteração da IA é uma ameaça crescente? Para ser honesto, a mesma inteligência artificial que nos proporcionou muitas inovações também nos deu ferramentas para manipular imagens de vigilância. 

No passado, a edição de imagens de vigilância exigia determinadas competências e software. Era preciso muito tempo e experiência para manipular um vídeo. Mas agora, existem ferramentas de IA dedicadas que podem manipular um vídeo com o toque de um botão. 

Estas ferramentas podem trocar rostos, alterar registos de data e hora ou remover pessoas de cenas. Ao adulterar, pode criar uma sequência de vídeo falsa que parece completamente real.

O problema da adulteração é que não se trata apenas de uma questão teórica; podemos ver casos reais de filmagens manipuladas que foram utilizadas para criar falsas narrativas, incriminar pessoas inocentes e abalar a credibilidade de sistemas de segurança legítimos. 

Como essas manipulações são difíceis de detetar, os riscos em torno da segurança de vigilância e da integridade do vídeo de segurança não poderiam ser maiores.

Para as organizações que dependem da integridade dos vídeos de segurança, a adulteração da IA é um grande problema. Podem acumular milhões em dívidas em acções judiciais.  

Métodos comuns de adulteração de vídeo com IA

Então, como funciona exatamente a adulteração da IA? Os métodos de manipulação da IA são os seguintes: 

Técnicas de manipulação de quadros

Esta é uma das formas mais básicas de manipulação. Envolve a inserção, exclusão ou substituição de quadros individuais numa seqüência de vídeo.

Esta técnica pode parecer simples, mas quando é feita, é quase impossível de detetar.

Os algoritmos de Inteligência Artificial podem analisar a iluminação, o desfoque de movimento, o grão e os artefactos de compressão das filmagens existentes e combiná-los ao inserir fotogramas alterados.

Pode ser: 

• Remover uma pessoa de uma cena
• Alterar as expressões faciais
• Trocar faces (estilo deepfake)
• Editar acções para que pareçam diferentes

Com isto, é quase como se o evento nunca tivesse acontecido ou a pessoa nunca tivesse estado lá. É inserido um momento totalmente fabricado e obtêm-se resultados que parecem que a filmagem nunca foi tocada.

Se não for efectuada uma verificação automática das filmagens, poderá nunca se aperceber da manipulação. 

Sobreposições sintéticas em filmagens

Esta forma de manipulação é inquietante e é maioritariamente feita com tecnologia deepfake e IA generativa. Com esta, é possível sobrepor conteúdo sintético diretamente em vídeo real.

Isso é colocar elementos falsos em filmagens reais. 

Com as sobreposições sintéticas, é possível 

• Trocar o rosto de uma pessoa pelo de outra 
• Alterar uma matrícula
• Inserir ou remover um objeto de uma cena
• Adicionar uma arma na mão de alguém 
• Colocar alguém onde nunca esteve

Estas sobreposições sintéticas são geradas por modelos de IA que foram treinados em grandes quantidades de dados de vídeo.

São condicionados para se fundirem bem com o vídeo original através da correspondência entre a iluminação, a cor da pele, as sombras e os pequenos movimentos que nunca seriam detectados sem saber o que procurar. 

Registos e carimbos de data/hora alterados

Normalmente, os registos de data e hora e os registos de metadados devem ser a rede de segurança ao verificar as imagens de vigilância, porque indicam quando as imagens foram gravadas e se foram modificadas.

No entanto, com as novas tecnologias de adulteração de IA, tornou-se difícil descobrir os carimbos de data/hora. 

Ao alterar os carimbos de data/hora, os metadados e os registos, os atacantes podem fazer com que as filmagens adulteradas pareçam ter sido gravadas numa altura diferente.

É possível até ocultar provas e fazer com que os ficheiros pareçam nunca ter sido abertos ou editados, ou forjar uma boa cadeia de custódia que seja boa no papel. 

Há uma necessidade real de garantir que a deteção de adulteração de vídeo não se limite a olhar para os pixéis; deve envolver a análise de todos os dados em torno da filmagem.

Sem uma verificação automática das filmagens, estas alterações podem passar despercebidas.

Sinais de alerta para detetar filmagens adulteradas

É fundamental saber o que procurar quando se tenta detetar filmagens adulteradas.

Por vezes, os sinais de alerta óbvios de uma filmagem adulterada incluem: 

• Iluminação ou sombras inconsistentes 
• Desfocagem não natural nas margens de objectos ou pessoas
• Ligeira cintilação em alguns fotogramas 
• Áudios e movimentos labiais que não estão em sincronia com o vídeo
• Registos temporais que saltam ou se repetem inesperadamente
• Metadados que não correspondem à hora ou local gravados.

Embora estes sinais pareçam ser fáceis de detetar, a adulteração mais sofisticada da IA não é assim tão óbvia.

É por isso que confiar apenas na análise humana já não é suficiente perante o avanço da inteligência artificial. É necessário detetar com a tecnologia do seu lado e combater a IA com a IA. 

Utilização de ferramentas de IA para proteger as filmagens e como funciona

Provavelmente parece irónico, mas as mesmas funções de IA que tornam possível a adulteração são as mesmas ferramentas de que necessita para detetar e proteger as imagens de vigilância. As ferramentas de Inteligência Artificial são as melhores defesas contra a manipulação da IA. 

Seguem-se as ferramentas artificiais necessárias para proteger as filmagens e o modo como funcionam: 

Detetor de falsificação profunda

Um detetor de deepfake é um modelo de IA concebido e treinado para identificar as assinaturas de um conteúdo de vídeo manipulado por IA. Esta ferramenta analisa vídeos e procura pequenas inconsistências no movimento facial e padrões de pixéis estranhos.

Também destaca as caraterísticas que mostram que a filmagem foi processada após a gravação ou modificada por IA. Um detetor de deepfake pode ser utilizado para descobrir as alterações em rostos, sobreposições sintéticas e cenas geradas por IA. 

Os detectores de deepfake comparam a impressão digital visual de um vídeo com o que se espera que a filmagem real se assemelhe.

Depois, levanta uma bandeira vermelha em qualquer coisa que não pareça correta, como por exemplo:

• Reflexos oculares irregulares
• Simetria facial anormal
• Incoerências de mistura
• Artefactos de renderização neural

Detetor de IA em tempo real

Pode utilizar um detetor de IA em tempo real para analisar imagens de vigilância à medida que estas são gravadas ou transmitidas, em vez de o fazer após o facto. Desta forma, é fácil determinar se algo está errado antes que seja demasiado tarde. 

Um detetor de IA em tempo real funciona com a sua configuração de câmara existente e efectua verificações contínuas.

Por conseguinte, no caso de uma pessoa tentar alterar a filmagem durante o processo de gravação, fazendo um looping de uma parte diferente da filmagem, pode ser utilizado um detetor de IA em tempo real para o identificar e emitir um alerta antes de o evento ocorrer.

Os ambientes de alta segurança que exigem uma deteção imediata quando ocorre uma violação são fortemente aconselhados a ter detectores em tempo real. É como um sistema antivírus, mas para fluxos de vídeo.

Para ambientes de alta segurança, esta capacidade é basicamente inegociável.

Detetor de vídeo AI

Um detetor de vídeo com inteligência artificial é uma forma abrangente de verificar a originalidade das filmagens. É utilizado para verificar a autenticidade e a integridade de um vídeo gravado.

Pode pensar nisto como um sistema de auditoria para o seu vídeo. 

A forma como esta ferramenta funciona consiste em analisar a estrutura completa de um vídeo. Não se limita a analisar os elementos visuais; verifica a codificação, a compressão, o histórico, os metadados e a estrutura do ficheiro.

Detecta: 

• Sinais comuns de adulteração, como a recodificação
• Se foram retiradas ou acrescentadas molduras
• Se a impressão digital das filmagens corresponde ao que deveria ser
• Incoerências de movimento 
• Padrões de iluminação irregulares 
• Alterações de metadados 

Também pode combinar as funções desta ferramenta com as funções de um detetor de deepfake para obter uma imagem completa da filmagem.

Isto garante que pode confiar no vídeo 100% porque a deteção vai para além das edições faciais. 

A melhor forma de criar um sistema de proteção de imagens de IA forte é combinar as funções destas ferramentas. É quase como uma forma segura de reduzir o risco associado à adulteração da IA.

Integrar a proteção da IA nos fluxos de trabalho de segurança

Há ocasiões em que uma pessoa pode possuir o conhecimento correto, mas só precisa de saber como aplicar esse conhecimento.

Por conseguinte, pode compreender as ferramentas de proteção da IA, mas ainda precisa de compreender como integrá-las nos seus processos de segurança. 

É assim que se implementa a proteção da IA nos processos de segurança:

1. Começar no ponto de captura: É importante certificar-se de que as suas câmaras estão a captar imagens num sistema de armazenamento seguro e inviolável imediatamente após o início da gravação. É possível utilizar o armazenamento encriptado com registos de acesso. Este é um sistema que cria um hash criptográfico de cada vídeo desde o momento em que é gravado até ao momento em que é guardado. Desta forma, qualquer alteração pode ser detectada imediatamente.
    
2. Ter um sistema que funcione continuamente: São necessárias ferramentas de verificação automática de filmagens que funcionem continuamente em segundo plano. Deste modo, não é necessário analisar manualmente todas as horas de filmagem. Um sistema automatizado permite-lhe definir limites de alerta para que seja alertado no momento em que algo suspeito acontece.
   
3. Desenvolver uma cadeia de custódia: Registe todas as actividades que foram realizadas nas suas filmagens. Sempre que os seus vídeos são acedidos, transferidos ou visualizados, devem ser registados. Pode garantir que nada é adulterado entre pontos de acesso, criando uma cadeia de custódia com a ajuda de um Vídeo sobre a IA detetor.
   
4. Desenvolver uma equipa: A segurança das suas filmagens de vigilância pode ser agitada, e é por isso que deve contratar uma equipa que trabalhe 24 horas por dia para registar qualquer adulteração, caso possa pagar uma. 

Não basta instalar o software de deteção e seguir em frente. É necessário incluí-lo no seu fluxo de trabalho. O seu objetivo deve ser integrar a verificação automática de imagens nas operações diárias e não apenas nas investigações.

Assim, quando integra a proteção de IA no seu fluxo de trabalho, torna-se mais difícil adulterar as suas filmagens. 

Melhores práticas para proteger dados de vigilância

Para além de utilizar as ferramentas de IA, há passos básicos que deve seguir para proteger as filmagens de IA. Estes passos incluem: 

• Encriptação: Ao encriptar os seus dados de gravação, dificulta a interceção e manipulação das suas imagens de vigilância por parte dos piratas informáticos. 
• Limitar o acesso: Isto destina-se a garantir que apenas as pessoas autorizadas têm acesso às filmagens e que cada acesso é registado e auditado.
• Arquivar periodicamente as imagens: Deve armazenar regularmente todas as suas imagens de vigilância em mais do que um local seguro. Deve ser como um armazenamento externo ou na nuvem que não esteja disponível através da sua rede principal.
• Actualizações regulares do firmware e do software: Os seus sistemas de câmaras também têm de ser actualizados regularmente para que sejam menos susceptíveis de manipulação. Também evita que os piratas informáticos adulterem as suas filmagens.
• Marca d'água no seu vídeo: A incorporação de uma marca de água, um traço invisível no seu vídeo, pode funcionar como uma autenticação do vídeo.
• Leve a sério a integridade do vídeo de segurança:  A adoção de medidas para evitar a manipulação ilícita deve ser uma prática regular. É necessário atualizar regularmente o seu software anti-violação e rever as suas ferramentas de deteção para garantir que estão à altura da evolução Inviolação de vídeo por IA técnicas.

Como o TruthScan ajuda as empresas a proteger as provas de vídeo

A proteção das provas de vídeo exige a utilização de ferramentas em que se confia, e é aqui que TruthScan entra em ação. O TruthScan é uma plataforma de deteção de IA com capacidades de deteção de imagens, voz e vídeo com IA.

Consegue identificar imagens manipuladas, sintéticas e fraudulentas com uma precisão de nível empresarial. 

Para empresas que lidam com provas de vídeo, TruthScan oferece um detetor de vídeo com IA e um detetor de deepfake. O detetor de vídeo com IA pode ajudar a confirmar vídeos e a efetuar verificações em tempo real em grande escala.

Os deepfakes produzidos por IA, vídeos manipulados e meios sintéticos também são detectados pelo detetor de deepfake.

Usando essas duas ferramentas TruthScan, é possível defender sua organização contra fraudes e manipulações de vídeo que não podem ser facilmente detectadas a olho nu.

Fale com a TruthScan sobre como proteger as filmagens de vigilância com segurança

A segurança das imagens de vigilância foi além da simples revisão manual do vídeo. As pessoas que confiam a olho nu ou que não confiam em nada estão a expor-se de formas que talvez ainda não tenham percebido. 

No entanto, o aspeto positivo é que é perfeitamente possível garantir a segurança das filmagens. Apenas são necessárias as ferramentas adequadas, incluindo um detetor de deepfake ou um detetor de vídeo.

O TruthScan está pronto para oferecer essas ferramentas para ajudar a reduzir a vulnerabilidade e garantir que suas filmagens continuem sendo provas confiáveis.

Contactar TruthScan hoje e descubra como proteger as suas imagens de vigilância.