O ZUMBIDO DA REDE ELÉTRICA, UMA TESTEMUNHA CONTRA OS VÍDEOS DE IA

Detectar vídeos gerados por IA virou uma corrida armamentista e, segundo Ryan Wyton e Bacha Rehman, da Universidade Solent de Southampton, é uma corrida que “o detector está perdendo”. A maioria dos detectores aprende as impressões digitais reveladoras dos geradores com que foram treinados. Num teste de referência recente com seis milhões de clipes, os melhores chegam a apenas cerca de 80% de acerto no total, e caem para perto ou abaixo do acaso em geradores que nunca viram.

Os dois pesquisadores procuraram, em vez disso, um sinal que os geradores não controlam: a frequência da rede elétrica, ou ENF (electric network frequency).

A impressão digital da rede

A eletricidade da rede tem nominalmente 50 ou 60 hertz, mas a sua frequência exata deriva em pequenas quantidades conforme a oferta e a demanda mudam. Como uma rede elétrica é fortemente acoplada, essa deriva é a mesma, com diferença de milissegundos, em toda a rede a cada instante — e por isso funciona como um carimbo de data e hora. Ela entra nas gravações de duas maneiras. Os microfones a captam como um zumbido. E as lâmpadas alimentadas pela rede cintilam ao dobro da frequência da rede, 100 ou 120 hertz. Uma câmera cujo sensor lê a imagem linha por linha (um “obturador rolante”, ou rolling shutter) registra essa cintilação como faixas tênues no vídeo.

Uma premissa que não sobreviveu

O trabalho começou com uma ideia simples: o vídeo sintético não teria cintilação da rede e poderia ser identificado pela sua ausência. Ela “não sobreviveu ao contato com as evidências”, escrevem os autores. Em 600 clipes de seis geradores de texto para vídeo, a cintilação apareceu com a mesma intensidade das filmagens reais — com uma frequência aparente definida pela taxa de quadros do gerador, e não por qualquer rede real. Medidos apenas pela intensidade da cintilação, clipes reais e gerados não podiam ser distinguidos: uma pontuação de 0,51, em que 0,5 significa puro chute.

Então a pergunta mudou. Em vez de perguntar se um vídeo tem um sinal da rede, o sistema pergunta se esse sinal corresponde a um registro independente da rede no momento e no lugar alegados. Um traço correspondente é uma forte evidência de uma gravação genuína. Um traço ausente não prova nada, já que muitas gravações reais — ao ar livre, com pouca luz ou feitas com equipamento de som profissional — não carregam nenhum zumbido utilizável.

Como o sistema funciona

Uma pequena rede neural (cerca de 157.600 parâmetros) lê o sinal da rede tanto no som quanto no vídeo.
Exemplos reais rotulados são escassos, então a equipe a treinou com exemplos sintéticos: modelaram como a frequência da rede vagueia e é puxada de volta para o seu valor nominal, depois injetaram essa deriva em falas sem zumbido e em vídeos sem cintilação, junto com cinco tipos de sinal inconsistente (ausente, plano, interrompido, rede errada, emendado).
Uma etapa separada compara o sinal da gravação com um registro de referência da rede, seja para verificar um horário alegado, seja para encontrar um desconhecido.
Um grafo de decisão fixo — a parte “agêntica” — combina isso com detectores já existentes de rostos manipulados, de sincronização labial e de metadados, chamando os lentos apenas quando as verificações rápidas são inconclusivas.

Os resultados

Em gravações reais vindas de fontes nunca vistas no treinamento, o sistema aceitou 93% dos áudios genuínos e 100% dos vídeos genuínos, contra 53% e 15% de um teste ingênuo do tipo “há um zumbido?”.
Verificar um horário de gravação alegado separou perfeitamente os carimbos de tempo genuínos dos falsos nas gravações das quais se pôde extrair um traço; uma busca às cegas encontrou um horário de gravação desconhecido com precisão de cerca de um segundo numa referência de 24 horas.
Numa cena real, a cintilação do vídeo correspondia à sua referência de rede e ao som da mesma gravação. Duas recriações dessa cena por IA cintilavam a 60 hertz, a rede errada para um local que supostamente funciona a 50.
Entre 91 gravações genuínas verificadas contra a sua rede verdadeira, ele não fez nenhuma acusação falsa.
Rodar os detectores lentos apenas quando necessário reduziu o tempo de computação em 54% sem perda de precisão.

O caso difícil

O sinal da rede autentica a gravação, não o que ela mostra. Se alguém filma uma cena real e depois troca um rosto nela, o zumbido continua genuíno. Isso cabe aos detectores de rosto e de sincronização labial, que, em filmagens comprimidas de trocas de rosto reais, tiveram desempenho próximo do acaso: o conjunto completo pontuou cerca de 50%. O método também precisa de registros de referência da rede, que os autores descrevem como públicos para o Reino Unido e a Europa continental, mas restritos ou não publicados em outros lugares, e não consegue deter um falsificador que emende uma gravação de rede genuína do momento e do lugar certos.

Os autores apresentam o seu sistema como uma ferramenta de triagem, uma linha de evidência entre outras. O seu objetivo, escrevem, “não é declarar que um clipe é falso, mas dizer, com uma confiança calibrada, quando uma gravação é o que afirma ser”.