Identificar uma deepfake já é um desafio e tanto. Mais difícil ainda é conseguir explicar, de forma clara, o que tornou aquela imagem suspeita. Foi justamente esse problema que motivou pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, a desenvolverem uma solução capaz de fazer as duas coisas ao mesmo tempo — com uma taxa de acerto que varia entre 85% e 91%, segundo comunicado divulgado pela instituição.
Batizada de RealorRender, a ferramenta nasceu de uma parceria com o Escritório Federal Alemão de Segurança da Informação (BSI), órgão que também bancou o desenvolvimento do projeto.
Uma abordagem que foge do óbvio
Em vez de recorrer apenas a um classificador tradicional de aprendizado profundo, como fazem a maioria das soluções do gênero, a RealorRender une duas técnicas complementares. Primeiro, um gerador de imagens baseado em IA tenta reconstruir a imagem que está sendo analisada. A lógica por trás disso é simples: quanto mais fácil for para essa IA recriar a imagem original, maiores as chances de que ela também tenha sido produzida artificialmente — afinal, replicar o trabalho de outra inteligência artificial costuma ser mais simples do que reproduzir uma fotografia real.
Na sequência, entra em cena um segundo modelo, responsável por medir o erro dessa reconstrução e converter esse dado em uma porcentagem de autenticidade. Segundo Andreas Specker, cientista sênior do grupo de pesquisa em Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, esse processo em duas etapas — reconstrução seguida de um cálculo híbrido do erro — é o que permite chegar a uma estimativa confiável de reconhecimento.
O grande diferencial está na transparência
Apenas apontar que uma imagem é falsa não resolve todo o problema. Por isso, a RealorRender também recorre a métodos de inteligência artificial explicável (conhecidos pela sigla XAI) para detalhar os motivos por trás de cada classificação. Nadia Burkart, à frente do grupo de IA Explicável Aplicada do instituto, explica que texturas incomuns ou padrões de frequência específicos costumam denunciar a origem sintética de uma imagem — e é justamente isso que a técnica de explicabilidade ajuda a evidenciar.
Para tornar essa explicação visual e acessível, a ferramenta gera dois tipos de representação: mapas de calor, que destacam as áreas da imagem que mais pesaram na decisão do modelo, e uma análise segmentada, capaz de apontar regiões específicas — como rosto, cabelo ou fundo — que entregam a manipulação.
Um problema que só cresce
A urgência por soluções assim se justifica pelos números. Somente em 2025, golpes envolvendo deepfakes já somaram mais de 1,5 bilhão de dólares em prejuízos ao redor do mundo. Um levantamento de 2023, por sua vez, identificou 276.149 deepfakes de teor sexual em um único site especializado nesse tipo de conteúdo — sendo que 96% delas tinham mulheres como alvo.
O fato é que seres humanos têm enorme dificuldade em diferenciar uma imagem real de uma manipulada. Já existem ferramentas automatizadas para essa tarefa, mas a maioria não explica como chegou a suas conclusões — o que acaba limitando sua utilidade para jornalistas, redes sociais e órgãos de segurança, que muitas vezes precisam justificar decisões de remoção ou moderação de conteúdo.
Para quem é a ferramenta
Por enquanto, a RealorRender está sendo integrada a um demonstrador que vai auxiliar inicialmente o próprio BSI na identificação de deepfakes. O funcionamento é direto: o usuário sobe a imagem, recebe o resultado da análise e, em seguida, uma explicação com resumo em texto sobre os indícios encontrados.
A equipe responsável já publicou dois relatórios técnicos sobre o projeto, que tem potencial de aplicação em agências de segurança, plataformas de redes sociais, veículos de mídia e bancos de imagens.
Enviar um comentário