Imagine assistir a um vídeo de um candidato dizendo algo que pode mudar completamente a sua percepção sobre uma eleição. A imagem parece real, a voz é familiar, os movimentos são convincentes e, em poucos minutos, o conteúdo começa a circular pelas redes sociais. O problema é que aquela pessoa pode nunca ter dito aquelas palavras. Com a evolução da inteligência artificial generativa, produzir imagens, vídeos e áudios capazes de imitar pessoas reais ficou mais acessível, transformando o deepfake em uma questão de segurança digital e, durante um período eleitoral, em uma ameaça potencial à própria integridade do processo democrático. Nas Eleições 2026, o Tribunal Superior Eleitoral estabeleceu regras específicas para conteúdos sintéticos e proibiu o uso de deepfakes para favorecer ou prejudicar candidaturas. Mas existe uma pergunta tão importante quanto a própria regulamentação: quando uma falsificação consegue parecer real para uma pessoa, como a tecnologia consegue descobrir que ela é falsa?

O que é um deepfake e por que ele ficou tão difícil de identificar?

Nem todo conteúdo manipulado é um deepfake. Uma fotografia pode ser editada no Photoshop ou um vídeo pode ser cortado e retirado de contexto, por exemplo. O deepfake se diferencia porque utiliza inteligência artificial para criar ou modificar imagens, vídeos e áudios de maneira automatizada. A tecnologia pode substituir rostos, reproduzir vozes, alterar expressões e movimentos ou até criar uma pessoa e uma situação que nunca existiram.

Essa capacidade mudou completamente o desafio da identificação. Nas primeiras gerações de conteúdos sintéticos, era comum encontrar sinais perceptíveis, como expressões pouco naturais, problemas de iluminação, movimentos estranhos ou distorções em regiões do rosto. Em imagens geradas por IA, erros em mãos, dentes e olhos também ficaram conhecidos como indícios de falsificação. Esses sinais, porém, estão se tornando menos confiáveis conforme os modelos generativos evoluem.

Hoje, sistemas de inteligência artificial conseguem produzir conteúdos muito mais convincentes, e isso criou uma espécie de corrida tecnológica entre quem gera e quem detecta as falsificações. Pesquisas recentes mostram que detectores podem ter desempenho significativamente pior quando encontram conteúdos produzidos por modelos ou técnicas que não estavam presentes em seus dados de treinamento. Esse problema, conhecido como generalização, é um dos principais desafios da detecção de deepfakes.

Por isso, identificar um deepfake não significa simplesmente procurar um erro na imagem ou no vídeo. A análise pode envolver características estatísticas dos pixels, padrões de compressão, movimentos faciais, sincronização entre voz e boca e outras evidências que passam despercebidas pelo olhar humano. O NIST, por exemplo, mantém avaliações específicas para medir a capacidade de sistemas de detectar manipulações em imagens e vídeos.

Quanto mais a inteligência artificial se torna capaz de imitar a realidade, menos podemos depender apenas da percepção humana para decidir o que é verdadeiro.

E é justamente por isso que a próxima etapa da segurança contra deepfakes não está apenas em procurar imperfeições, mas em descobrir de onde aquele conteúdo veio e o que aconteceu com ele antes de chegar até nós.

Antes de procurar o erro, é preciso descobrir de onde veio o conteúdo

Uma das estratégias para combater deepfakes não consiste em procurar um erro na imagem ou no vídeo, mas em verificar sua origem. A chamada procedência digital permite registrar informações sobre como um conteúdo foi criado, qual ferramenta foi utilizada e quais alterações ele sofreu ao longo do caminho.

Um dos principais padrões para isso é o C2PA, sigla para Coalition for Content Provenance and Authenticity. Por meio das chamadas Content Credentials, o conteúdo pode carregar informações de procedência protegidas por assinaturas criptográficas, permitindo verificar se esses registros foram alterados posteriormente.

Na prática, é como criar um histórico verificável para uma imagem, vídeo ou áudio. Uma fotografia pode registrar sua criação, edição e publicação, por exemplo. Em um cenário eleitoral, essas informações podem ajudar a diferenciar um conteúdo com origem verificável de um arquivo cuja procedência não pode ser confirmada.

Isso não significa que as Content Credentials sejam um detector de deepfake. A ausência dessas informações não prova que um conteúdo seja falso, assim como sua presença não garante que tudo apresentado no conteúdo seja verdadeiro. A procedência é apenas mais uma camada de evidência. Em uma internet cada vez mais sintética, descobrir de onde um conteúdo veio pode ser tão importante quanto descobrir se ele parece verdadeiro.

Marcas d’água invisíveis podem denunciar conteúdos produzidos por IA

Outra estratégia para identificar conteúdos gerados por inteligência artificial utiliza marcas d’água digitais que não podem ser percebidas pelo olho humano. O SynthID, desenvolvido pelo Google DeepMind, por exemplo, incorpora essas informações diretamente em imagens, vídeos e áudios produzidos por sistemas de IA.

A ideia é simples: mesmo que o conteúdo pareça completamente real, um sistema especializado pode procurar essa assinatura e indicar que ele foi criado ou alterado por inteligência artificial. A tecnologia também foi desenvolvida para continuar detectável após modificações comuns, como cortes, filtros e compressão.

Mas existe uma limitação importante. A ausência de uma marca d’água não significa que o conteúdo seja verdadeiro. Diferentes ferramentas utilizam métodos diferentes e nem todo conteúdo gerado por IA possui esse tipo de identificação. Por isso, a marca d’água funciona como uma evidência adicional e não como um detector universal de deepfakes.

Na prática, quanto mais ferramentas adotarem esse tipo de identificação, mais fácil poderá ser descobrir quando um conteúdo passou por inteligência artificial. Mas, para verificar aquilo que não possui uma assinatura digital, ainda será necessário recorrer a outras formas de análise.

E quando não existe marca d’água? Entra a perícia digital

Quando um conteúdo não possui uma marca d’água ou credencial de procedência, a análise precisa procurar outros rastros deixados durante sua criação ou manipulação. É nesse ponto que entra a perícia digital, que pode examinar características dos pixels, padrões de compressão, texturas, movimentos entre quadros e até características específicas de uma gravação de áudio.

Sistemas de inteligência artificial também podem ser treinados para reconhecer esses padrões. Em vez de procurar um erro evidente, eles analisam características estatísticas que podem indicar que aquela imagem, voz ou sequência de vídeo passou por um processo de geração ou manipulação. Em vídeos, por exemplo, a análise pode observar inconsistências entre diferentes quadros, enquanto no áudio podem ser identificados padrões anormais em frequências ou na forma como a voz foi sintetizada.

O problema é que esses rastros podem desaparecer ou ficar menos evidentes depois que o conteúdo passa por compressão, cortes, filtros ou outras alterações comuns nas redes sociais. Pesquisas recentes mostram que detectores apresentam queda de desempenho quando encontram manipulações diferentes daquelas utilizadas durante seu treinamento.

Por isso, a perícia digital não funciona como uma simples ferramenta que responde “verdadeiro” ou “falso”. Ela reúne diferentes evidências para estimar se um conteúdo apresenta sinais de manipulação, tornando a análise mais complexa, mas também mais confiável.

A IA pode analisar uma imagem, uma voz e um vídeo ao mesmo tempo

Um dos caminhos mais promissores para detectar deepfakes é combinar diferentes tipos de evidência. Em vez de analisar apenas a imagem ou apenas o áudio, sistemas multimodais podem comparar informações visuais e sonoras para procurar inconsistências.

Imagem e movimento

No vídeo, a IA pode analisar rostos, expressões, movimentos e padrões visuais quadro a quadro. Pequenas diferenças entre regiões da imagem ou mudanças que não acompanham naturalmente o restante do vídeo podem indicar uma manipulação.

Voz e sincronização

O áudio também pode ser analisado separadamente. Características da voz, frequência, ritmo e outros padrões podem revelar sinais de síntese. Em um vídeo de uma pessoa falando, o sistema ainda pode comparar o movimento dos lábios com aquilo que está sendo dito.

Cruzando as evidências

É justamente essa combinação que torna a análise multimodal interessante. Um vídeo pode parecer convincente visualmente, mas apresentar uma voz sintética ou uma sincronização incomum entre fala e movimento. Ao cruzar esses sinais, o sistema consegue construir uma análise mais completa do conteúdo.

Esse tipo de abordagem ainda enfrenta limitações, principalmente porque os geradores de IA também evoluem rapidamente. Mesmo assim, a tendência é que a detecção deixe de procurar uma única “prova” de falsificação e passe a combinar diferentes evidências para avaliar a autenticidade de um conteúdo.

O problema: nenhum detector é um detector de verdade

É tentador imaginar que exista uma ferramenta capaz de analisar qualquer vídeo e simplesmente responder: “é falso”. Na prática, não funciona assim. Detectores de deepfake trabalham com probabilidades e evidências, e seu desempenho pode variar conforme o tipo de conteúdo e a tecnologia usada para produzi-lo.

Um detector treinado para reconhecer determinado tipo de manipulação pode ter dificuldade diante de uma técnica mais recente. Pesquisas e avaliações do NIST mostram que a precisão pode cair quando os sistemas encontram conteúdos diferentes daqueles utilizados durante seu treinamento, principalmente depois que o arquivo passa por compressão, filtros ou outras alterações.

Por isso, a identificação de um deepfake tende a funcionar melhor quando diferentes evidências são combinadas: procedência, marcas d’água, análise forense, características visuais, áudio e contexto. A tecnologia não entrega uma resposta mágica. Ela ajuda a construir uma conclusão mais confiável.

Esse limite é especialmente importante durante uma eleição. Um detector pode indicar que determinado conteúdo apresenta sinais de manipulação, mas isso não substitui a verificação da informação que está sendo apresentada.

Deepfake nas Eleições 2026: o que muda para candidatos, plataformas e eleitores

Nas Eleições 2026, o uso de inteligência artificial não é proibido de forma geral, mas passou a seguir regras específicas. O TSE determina que conteúdos sintéticos usados em propaganda eleitoral sejam identificados de forma explícita e acessível. Já o uso de deepfakes para favorecer ou prejudicar candidaturas é proibido.

Para candidatos e campanhas, isso significa que utilizar IA exige mais cuidado com identificação, contexto e finalidade do conteúdo. Para as plataformas, as regras também estabelecem medidas para reduzir a circulação de conteúdos que possam comprometer a integridade do processo eleitoral.

E o eleitor?

É justamente aqui que a tecnologia encontra seu maior limite. Nenhum detector consegue garantir sozinho que uma informação seja verdadeira. A melhor proteção continua sendo combinar diferentes sinais: verificar a origem do conteúdo, procurar fontes confiáveis, observar possíveis manipulações e desconfiar de materiais que provoquem uma reação imediata antes de apresentar qualquer contexto.

O combate aos deepfakes, portanto, não depende de uma única ferramenta. Ele envolve inteligência artificial, perícia digital, plataformas, Justiça Eleitoral e, principalmente, a capacidade do eleitor de verificar aquilo que recebe antes de compartilhar. Em uma eleição na qual qualquer pessoa pode produzir uma falsificação convincente, saber desconfiar também se tornou uma habilidade de segurança digital.