DAS BRUMMEN DES STROMNETZES, EIN ZEUGE GEGEN KI-VIDEOS

Die Erkennung KI-generierter Videos ist zu einem Wettrüsten geworden, und laut Ryan Wyton und Bacha Rehman von der Southampton Solent University ist es eines, das „der Detektor verliert“. Die meisten Detektoren lernen die verräterischen Fingerabdrücke der Generatoren, mit denen sie trainiert wurden. In einem aktuellen Vergleichstest mit sechs Millionen Clips erreichen die besten insgesamt nur etwa 80 % Treffsicherheit und fallen bei Generatoren, die sie nie gesehen haben, auf Zufallsniveau oder darunter.

Die beiden Forscher suchten stattdessen nach einem Signal, das Generatoren nicht kontrollieren: der Netzfrequenz, kurz ENF (electric network frequency).

Der Fingerabdruck des Netzes

Netzstrom hat nominell 50 oder 60 Hertz, doch seine genaue Frequenz driftet geringfügig, wenn sich Angebot und Nachfrage ändern. Weil ein Stromnetz eng gekoppelt ist, ist diese Drift in jedem Augenblick im ganzen Netz bis auf Millisekunden gleich — sie wirkt also wie ein Zeitstempel. In Aufnahmen gelangt sie auf zwei Wegen. Mikrofone nehmen sie als Brummen auf. Und am Netz betriebene Lampen flimmern mit der doppelten Netzfrequenz, 100 oder 120 Hertz. Eine Kamera, deren Sensor das Bild Zeile für Zeile ausliest (ein „Rolling Shutter“), zeichnet dieses Flimmern als schwache Streifen im Video auf.

Eine Prämisse, die nicht überlebte

Die Arbeit begann mit einer einfachen Idee: Synthetisches Video hätte kein Netzflimmern und ließe sich an dessen Fehlen erkennen. Sie habe „den Kontakt mit den Belegen nicht überlebt“, schreiben die Autoren. In 600 Clips von sechs Text-zu-Video-Generatoren trat das Flimmern ebenso stark auf wie in echten Aufnahmen — mit einer scheinbaren Frequenz, die von der Bildrate des Generators bestimmt wird, nicht von irgendeinem echten Netz. Allein an der Stärke des Flimmerns gemessen, ließen sich echte und erzeugte Clips nicht unterscheiden: ein Wert von 0,51, wobei 0,5 reines Raten bedeutet.

Also änderte sich die Frage. Statt zu fragen, ob ein Video ein Netzsignal hat, fragt das System, ob dieses Signal zu einer unabhängigen Aufzeichnung des Netzes zur behaupteten Zeit am behaupteten Ort passt. Eine passende Spur ist ein starker Beleg für eine echte Aufnahme. Eine fehlende beweist nichts, denn viele echte Aufnahmen — im Freien, bei wenig Licht oder mit professioneller Tontechnik gemacht — tragen kein verwertbares Brummen.

Wie das System funktioniert

Ein kleines neuronales Netz (etwa 157.600 Parameter) liest das Netzsignal sowohl im Ton als auch im Bild.
Echte, beschriftete Beispiele sind rar, also trainierte das Team es mit synthetischen: Es modellierte, wie die Netzfrequenz umherwandert und zu ihrem Nennwert zurückgezogen wird, und spielte diese Drift dann in brummfreie Sprache und flimmerfreies Video ein, zusammen mit fünf Arten inkonsistenter Signale (fehlend, flach, unterbrochen, falsches Netz, zusammengeschnitten).
Ein separater Schritt gleicht das Signal der Aufnahme mit einem Referenzprotokoll des Netzes ab, entweder um eine behauptete Zeit zu prüfen oder um eine unbekannte zu finden.
Ein fester Entscheidungsgraph — der „agentische“ Teil — kombiniert dies mit vorhandenen Detektoren für manipulierte Gesichter, Lippensynchronität und Metadaten und ruft die langsamen nur auf, wenn die schnellen Prüfungen kein klares Ergebnis liefern.

Die Ergebnisse

Bei echten Aufnahmen aus Quellen, die im Training nie vorkamen, akzeptierte das System 93 % der echten Audioaufnahmen und 100 % der echten Videos, gegenüber 53 % und 15 % bei einem naiven „Gibt es ein Brummen?“-Test.
Die Prüfung einer behaupteten Aufnahmezeit trennte echte von falschen Zeitstempeln perfekt, sofern sich eine Spur extrahieren ließ; eine Blindsuche fand eine unbekannte Aufnahmezeit auf etwa eine Sekunde genau in einer 24-Stunden-Referenz.
In einer echten Szene passte das Flimmern des Videos zu seiner Netzreferenz und zum Ton derselben Aufnahme. Zwei KI-Nachbildungen dieser Szene flimmerten mit 60 Hertz — das falsche Netz für einen Ort, an dem angeblich 50 gelten.
Unter 91 echten Aufnahmen, die gegen ihr wahres Netz geprüft wurden, erhob es keine einzige falsche Anschuldigung.
Die langsamen Detektoren nur bei Bedarf laufen zu lassen, senkte die Rechenzeit um 54 %, ohne an Genauigkeit zu verlieren.

Der schwierige Fall

Das Netzsignal beglaubigt die Aufnahme, nicht das, was sie zeigt. Filmt jemand eine echte Szene und tauscht dann ein Gesicht darin aus, bleibt das Brummen echt. Das ist Sache der Gesichts- und Lippensynchronitätsdetektoren, die bei komprimiertem Material echter Gesichtstausche nahe am Zufall lagen: Das vollständige Ensemble erreichte rund 50 %. Die Methode braucht außerdem Referenzprotokolle des Netzes, die nach Angaben der Autoren für Großbritannien und Kontinentaleuropa öffentlich, anderswo aber eingeschränkt oder unveröffentlicht sind, und sie kann einen Fälscher nicht aufhalten, der eine echte Netzaufnahme von der richtigen Zeit und dem richtigen Ort einschneidet.

Die Autoren präsentieren ihr System als Werkzeug zur Vorsortierung, als einen Beweisstrang unter anderen. Sein Ziel, schreiben sie, sei es „nicht, einen Clip für gefälscht zu erklären, sondern mit kalibrierter Zuversicht zu sagen, wann eine Aufnahme das ist, was sie zu sein behauptet“.