電力網のうなりが、AI動画に不利な証言をする

AIが生成した動画の検出は軍拡競争になっており、サウサンプトン・ソレント大学のライアン・ワイトン（Ryan Wyton）とバチャ・レーマン（Bacha Rehman）によれば、それは「検出する側が負けつつある」競争だ。多くの検出器は、訓練に使われた生成AIに特有の指紋を学習する。600万本のクリップからなる最近のベンチマークでは、最良の検出器でも全体の正解率は約80%にとどまり、見たことのない生成AIに対しては偶然と同程度かそれ以下にまで落ちる。

そこで2人の研究者は、生成AIが制御していない信号に目を向けた。電源周波数（electric network frequency）、略してENFだ。

電力網の指紋

商用電源の周波数は名目上50ヘルツか60ヘルツだが、正確な周波数は需要と供給の変化に応じてわずかにずれていく。電力網は緊密につながっているため、このずれはどの瞬間にも、ネットワーク全体で数ミリ秒の範囲で同じになる。だからタイムスタンプのように働く。これが録画・録音に入り込む経路は2つある。マイクはそれをうなり（ハム）として拾う。そして商用電源で点灯する照明は、電源周波数の2倍、100ヘルツか120ヘルツでちらつく。画像を1行ずつ読み取るセンサー（「ローリングシャッター」）をもつカメラは、そのちらつきを動画の中のかすかな縞として記録する。

生き残れなかった前提

研究は単純なアイデアから始まった。合成動画には電力網のちらつきがないはずで、その欠如によって見分けられるだろう、というものだ。このアイデアは「証拠と接触して生き残れなかった」と著者たちは書く。6つのテキスト動画生成AIによる600本のクリップで、ちらつきは実写の映像と同じくらい強く現れた。その見かけの周波数は、実在の電力網ではなく、生成AIのフレームレートによって決まっていた。ちらつきの強さだけで測ると、本物と生成されたクリップは区別できなかった。スコアは0.51で、0.5はまったくの当て推量を意味する。

そこで問いが変わった。動画に電力網の信号があるかを問うのではなく、その信号が、主張された時刻と場所における電力網の独立した記録と一致するかを問うのだ。一致する痕跡は、本物の記録であることの強い証拠になる。痕跡がなくても何の証明にもならない。屋外、薄暗い場所、あるいはプロ用の音響機材で作られた本物の記録の多くは、使えるうなりを含まないからだ。

システムの仕組み

1つの小さなニューラルネットワーク（パラメータ数約157,600）が、音声と映像の両方から電力網の信号を読み取る。
ラベル付きの実例は少ないため、チームは合成データで訓練した。電源周波数がさまよい、名目値へ引き戻されるさまをモデル化し、そのずれをうなりのない音声やちらつきのない動画に注入した。さらに5種類の不整合な信号（欠落、平坦、途切れ、誤った電力網、継ぎはぎ）も加えた。
別の段階で、記録の信号を電力網の参照ログと照合する。主張された時刻を確かめるためにも、未知の時刻を探し出すためにも使える。
固定された判断グラフ、つまり「エージェント的」（agentic）な部分が、これを既存の検出器、すなわち改変された顔、口の動きと音声のずれ、メタデータの検出器と組み合わせる。速い検査で結論が出ないときだけ、遅い検出器を呼び出す。

結果

訓練で一度も見ていない情報源からの本物の記録に対し、システムは**本物の音声の93%と本物の動画の100%**を本物と認めた。「うなりがあるか？」という素朴な検査では53%と15%だった。
主張された録音時刻の検査では、痕跡を抽出できた記録について、本物と偽のタイムスタンプを完全に区別した。手がかりなしの探索では、未知の録音時刻を24時間分の参照の中から約1秒の精度で見つけ出した。
ある実際の場面では、動画のちらつきが電力網の参照とも、同じ記録の音声とも一致した。その場面をAIで作り直した2本は60ヘルツでちらついていた。50ヘルツの地域だと主張された場所にとっては、誤った電力網だ。
本当の電力網と照合した91本の本物の記録の中で、誤った告発は1件もなかった。
遅い検出器を必要なときだけ動かすことで、精度を落とさずに計算時間を54%削減した。

難しいケース

電力網の信号が真正性を保証するのは記録であって、そこに映っている内容ではない。誰かが本物の場面を撮影し、そこに別の顔を差し替えても、うなりは本物のままだ。それは顔や口の動きの検出器の役目になるが、実際の顔差し替えの圧縮された映像では、これらは偶然に近い成績だった。アンサンブル全体でも約50%だった。この手法には電力網の参照ログも必要だ。著者たちによれば、それは英国と欧州大陸では公開されているが、ほかの地域では制限されているか公表されていない。また、正しい時刻と場所の本物の電力網の記録を継ぎ合わせる偽造者は防げない。

著者たちは、このシステムをトリアージ（ふるい分け）の道具、つまり数ある証拠の筋の1つとして位置づけている。その目標は「クリップを偽物と断定することではなく、記録が自称するとおりのものであるときに、較正された確信度をもってそう言うこと」だと彼らは書く。