ELEKTRİK ŞEBEKESİNİN UĞULTUSU, YAPAY ZEKÂ VİDEOLARINA KARŞI BİR TANIK

Yapay zekâ ile üretilmiş videoları tespit etmek bir silahlanma yarışına dönüştü ve Southampton Solent Üniversitesi’nden Ryan Wyton ile Bacha Rehman’a göre bu yarışı “dedektör kaybediyor”. Dedektörlerin çoğu, eğitildikleri üreticilerin ele veren parmak izlerini öğrenir. Altı milyon kliplik yakın tarihli bir karşılaştırma testinde en iyileri genel olarak ancak %80 civarında doğruluğa ulaşıyor ve hiç görmedikleri üreticilerde şans düzeyine ya da altına düşüyor.

İki araştırmacı bunun yerine üreticilerin kontrol etmediği bir sinyale yöneldi: elektrik şebekesi frekansı (electric network frequency), kısaca ENF.

Şebekenin parmak izi

Şebeke elektriği nominal olarak 50 ya da 60 hertzdir, ama tam frekansı arz ve talep değiştikçe küçük miktarlarda kayar. Bir elektrik şebekesi sıkı biçimde birbirine bağlı olduğu için bu kayma, herhangi bir anda bütün ağda milisaniyeler içinde aynıdır — dolayısıyla bir zaman damgası gibi işler. Kayıtlara iki yoldan girer. Mikrofonlar onu bir uğultu olarak yakalar. Şebekeden beslenen lambalar ise şebeke frekansının iki katında, 100 ya da 120 hertzde titrer. Sensörü görüntüyü satır satır okuyan bir kamera (“kayan deklanşör”, rolling shutter) bu titreşimi videoda belli belirsiz bantlar olarak kaydeder.

Ayakta kalamayan bir varsayım

Çalışma basit bir fikirle başladı: sentetik videoda şebeke titreşimi olmayacak ve bu yokluk sayesinde işaretlenebilecekti. Yazarların ifadesiyle bu fikir “kanıtla temasa geçtiğinde ayakta kalamadı”. Altı metinden videoya üreticiden gelen 600 klipte titreşim gerçek görüntülerdeki kadar güçlü çıktı — görünür frekansı ise herhangi bir gerçek şebeke tarafından değil, üreticinin kare hızı tarafından belirleniyordu. Yalnızca titreşim gücüne bakıldığında gerçek ve üretilmiş klipler birbirinden ayırt edilemiyordu: 0,51’lik bir skor; 0,5 ise tamamen tahmin demek.

Böylece soru değişti. Sistem, bir videonun şebeke sinyali olup olmadığını sormak yerine, bu sinyalin iddia edilen zaman ve yerdeki şebekenin bağımsız bir kaydıyla eşleşip eşleşmediğini soruyor. Eşleşen bir iz, gerçek bir kaydın güçlü kanıtıdır. Eksik bir iz ise hiçbir şey kanıtlamaz, çünkü pek çok gerçek kayıt — dış mekânda, loş ortamda ya da profesyonel ses ekipmanıyla yapılanlar — kullanılabilir bir uğultu taşımaz.

Sistem nasıl çalışıyor

Küçük tek bir sinir ağı (yaklaşık 157.600 parametre) şebeke sinyalini hem seste hem görüntüde okuyor.
Gerçek etiketli örnekler az olduğu için ekip ağı sentetik örneklerle eğitti: şebeke frekansının nasıl gezindiğini ve nominal değerine doğru nasıl geri çekildiğini modellediler, sonra bu kaymayı uğultusuz konuşmaya ve titreşimsiz videoya enjekte ettiler; buna beş tür tutarsız sinyal de eklendi (yok, düz, kopuk, yanlış şebeke, eklenmiş).
Ayrı bir adım, kaydın sinyalini şebekenin bir referans kaydıyla eşleştiriyor; ya iddia edilen bir zamanı doğrulamak ya da bilinmeyen bir zamanı bulmak için.
Sabit bir karar grafiği — işin “ajan tabanlı” (agentic) kısmı — bunu, manipüle edilmiş yüzler, dudak senkronu ve meta veriler için mevcut dedektörlerle birleştiriyor; yavaş olanları yalnızca hızlı kontroller sonuçsuz kaldığında çağırıyor.

Sonuçlar

Eğitimde hiç görülmemiş kaynaklardan gelen gerçek kayıtlarda sistem gerçek seslerin %93’ünü ve gerçek videoların %100’ünü kabul etti; saf bir “uğultu var mı?” testinde bu oranlar %53 ve %15’ti.
İddia edilen bir kayıt zamanının kontrolü, iz çıkarılabilen kayıtlarda gerçek zaman damgalarını sahtelerinden kusursuz biçimde ayırdı; kör bir arama, bilinmeyen bir kayıt zamanını 24 saatlik bir referans içinde yaklaşık bir saniye hassasiyetle buldu.
Gerçek bir sahnede videonun titreşimi hem şebeke referansıyla hem aynı kaydın sesiyle eşleşti. O sahnenin yapay zekâ ile yapılmış iki yeniden canlandırması ise 60 hertzde titredi; şebekesi 50 hertzde çalıştığı iddia edilen bir yer için yanlış şebeke.
Gerçek şebekeleriyle karşılaştırılan 91 gerçek kayıt arasında hiçbir yanlış suçlamada bulunmadı.
Yavaş dedektörleri yalnızca gerektiğinde çalıştırmak, doğruluk kaybı olmadan hesaplama süresini %54 azalttı.

Zor durum

Şebeke sinyali kaydı doğrular, kaydın gösterdiği şeyi değil. Biri gerçek bir sahneyi çekip ardından içine bir yüz yerleştirirse uğultu gerçek kalır. Bu iş yüz ve dudak senkronu dedektörlerine düşer; bunlar gerçek yüz değiştirmelerin sıkıştırılmış görüntülerinde şans düzeyine yakın performans gösterdi: tüm topluluk yaklaşık %50 skor aldı. Yöntem ayrıca şebeke referans kayıtlarına ihtiyaç duyuyor; yazarlar bunları Birleşik Krallık ve kıta Avrupası için kamuya açık, başka yerlerde ise kısıtlı ya da yayımlanmamış olarak tanımlıyor. Ayrıca doğru zaman ve yerden gerçek bir şebeke kaydını araya ekleyen bir sahtekârı durduramıyor.

Yazarlar sistemlerini bir ön eleme aracı, diğerleri arasında bir kanıt hattı olarak sunuyor. Yazdıklarına göre amacı “bir klibin sahte olduğunu ilan etmek değil, bir kaydın iddia ettiği şey olduğunu kalibre edilmiş bir güvenle söylemek.”