TIẾNG Ù CỦA LƯỚI ĐIỆN, NHÂN CHỨNG CHỐNG LẠI VIDEO AI

Phát hiện video do AI tạo ra đã trở thành một cuộc chạy đua vũ trang, và theo Ryan Wyton và Bacha Rehman ở Đại học Southampton Solent, đó là cuộc đua mà “bên phát hiện đang thua”. Phần lớn các bộ phát hiện học những dấu vân tay đặc trưng của các công cụ tạo video mà chúng được huấn luyện. Trên một bộ kiểm thử gần đây gồm sáu triệu đoạn video, những bộ tốt nhất chỉ đạt độ chính xác tổng thể khoảng 80%, và rơi xuống gần hoặc dưới mức đoán mò với những công cụ tạo video chúng chưa từng gặp.

Thay vào đó, hai nhà nghiên cứu tìm một tín hiệu mà các công cụ tạo video không kiểm soát: tần số lưới điện (electric network frequency), hay ENF.

Dấu vân tay của lưới điện

Điện lưới trên danh nghĩa là 50 hoặc 60 hertz, nhưng tần số chính xác của nó trôi đi một chút khi cung và cầu thay đổi. Vì một lưới điện được liên kết chặt chẽ, độ trôi này giống nhau, sai lệch chỉ vài mili giây, trên toàn mạng lưới tại mỗi thời điểm — nên nó hoạt động như một dấu thời gian. Nó lọt vào các bản ghi theo hai cách. Micrô thu nó dưới dạng một tiếng ù. Và đèn dùng điện lưới nhấp nháy ở tần số gấp đôi tần số lưới, 100 hoặc 120 hertz. Một máy quay có cảm biến đọc hình ảnh từng dòng một (“màn trập cuộn”, rolling shutter) ghi lại nhấp nháy đó thành những dải mờ trong video.

Một tiền đề không trụ vững

Công trình bắt đầu từ một ý tưởng đơn giản: video tổng hợp sẽ không có nhấp nháy của lưới điện và có thể bị phát hiện nhờ sự vắng mặt ấy. Ý tưởng đó “không trụ vững khi đối mặt với bằng chứng”, các tác giả viết. Trên 600 đoạn video từ sáu công cụ chuyển văn bản thành video, nhấp nháy xuất hiện mạnh y như trong cảnh quay thật — với một tần số biểu kiến do tốc độ khung hình của công cụ quyết định, không phải do một lưới điện thật nào. Nếu chỉ đo cường độ nhấp nháy, không thể phân biệt video thật và video được tạo ra: điểm số 0,51, trong đó 0,5 nghĩa là đoán mò hoàn toàn.

Vì thế câu hỏi đã thay đổi. Thay vì hỏi một video có tín hiệu lưới điện hay không, hệ thống hỏi tín hiệu đó có khớp với một bản ghi độc lập của lưới điện tại thời điểm và địa điểm được tuyên bố hay không. Một dấu vết khớp là bằng chứng mạnh cho một bản ghi thật. Không có dấu vết thì không chứng minh được gì, vì nhiều bản ghi thật — ngoài trời, thiếu sáng, hoặc dùng thiết bị thu âm chuyên nghiệp — không mang tiếng ù nào dùng được.

Hệ thống hoạt động thế nào

Một mạng nơ-ron nhỏ (khoảng 157.600 tham số) đọc tín hiệu lưới điện trong cả âm thanh lẫn hình ảnh.
Ví dụ thật có gắn nhãn rất hiếm, nên nhóm huấn luyện nó bằng ví dụ tổng hợp: họ mô hình hóa cách tần số lưới điện lang thang rồi bị kéo về giá trị danh định, sau đó đưa độ trôi đó vào giọng nói không có tiếng ù và video không có nhấp nháy, cùng với năm loại tín hiệu không nhất quán (vắng mặt, phẳng, đứt đoạn, sai lưới điện, bị cắt ghép).
Một bước riêng đối chiếu tín hiệu của bản ghi với nhật ký tham chiếu của lưới điện, hoặc để kiểm tra một thời điểm được tuyên bố, hoặc để tìm một thời điểm chưa biết.
Một đồ thị quyết định cố định — phần “agentic” (tác tử) — kết hợp kết quả này với các bộ phát hiện sẵn có về khuôn mặt bị chỉnh sửa, khẩu hình và siêu dữ liệu, chỉ gọi các bộ chậm khi các kiểm tra nhanh chưa đưa ra kết luận.

Kết quả

Trên các bản ghi thật từ những nguồn chưa từng gặp khi huấn luyện, hệ thống chấp nhận 93% âm thanh thật và 100% video thật, so với 53% và 15% của một phép thử ngây thơ kiểu “có tiếng ù không?”.
Việc kiểm tra một thời điểm ghi được tuyên bố đã phân biệt hoàn hảo dấu thời gian thật và giả trên những bản ghi trích xuất được dấu vết; một cuộc tìm kiếm mù tìm ra thời điểm ghi chưa biết chính xác đến khoảng một giây trong một tham chiếu 24 giờ.
Trong một cảnh thật, nhấp nháy của video khớp với tham chiếu lưới điện và với âm thanh của chính bản ghi đó. Hai bản dựng lại cảnh đó bằng AI nhấp nháy ở 60 hertz, sai lưới điện đối với một địa điểm được tuyên bố là dùng điện 50 hertz.
Trong 91 bản ghi thật được kiểm tra với lưới điện thực của chúng, hệ thống không đưa ra cáo buộc sai nào.
Chỉ chạy các bộ phát hiện chậm khi cần đã cắt giảm 54% thời gian tính toán mà không mất độ chính xác.

Trường hợp khó

Tín hiệu lưới điện xác thực bản ghi, chứ không xác thực những gì bản ghi thể hiện. Nếu ai đó quay một cảnh thật rồi ghép một khuôn mặt vào đó, tiếng ù vẫn là thật. Việc đó thuộc về các bộ phát hiện khuôn mặt và khẩu hình, vốn trên cảnh quay nén của các vụ hoán đổi khuôn mặt thật chỉ đạt gần mức đoán mò: toàn bộ tổ hợp đạt khoảng 50%. Phương pháp này cũng cần nhật ký tham chiếu của lưới điện, mà các tác giả mô tả là công khai ở Vương quốc Anh và lục địa châu Âu nhưng bị hạn chế hoặc không được công bố ở nơi khác, và nó không thể ngăn một kẻ làm giả ghép vào một bản ghi lưới điện thật từ đúng thời điểm và địa điểm.

Các tác giả giới thiệu hệ thống của họ như một công cụ sàng lọc, một nguồn bằng chứng giữa nhiều nguồn khác. Mục tiêu của nó, họ viết, “không phải là tuyên bố một đoạn video là giả, mà là nói, với độ tin cậy đã được hiệu chỉnh, khi nào một bản ghi đúng là thứ nó tự nhận.”