बिजली ग्रिड की गुनगुनाहट, AI वीडियो के ख़िलाफ़ एक गवाह

AI से बने वीडियो पकड़ना एक हथियारों की होड़ बन चुका है, और साउथैम्पटन सोलेंट यूनिवर्सिटी के Ryan Wyton और Bacha Rehman के अनुसार, ऐसी होड़ जिसमें “डिटेक्टर हार रहा है”। ज़्यादातर डिटेक्टर उन जनरेटरों के पहचान-चिह्न सीखते हैं जिन पर उन्हें प्रशिक्षित किया गया था। साठ लाख क्लिप वाले एक हालिया बेंचमार्क पर, सबसे अच्छे डिटेक्टर कुल मिलाकर लगभग 80% सटीकता तक ही पहुँचते हैं, और जिन जनरेटरों को उन्होंने कभी नहीं देखा, उन पर संयोग के बराबर या उससे भी नीचे गिर जाते हैं।

इसके बजाय दोनों शोधकर्ताओं ने एक ऐसा संकेत खोजा जिस पर जनरेटरों का कोई नियंत्रण नहीं: विद्युत नेटवर्क आवृत्ति, यानी ENF (electric network frequency)।

ग्रिड का फ़िंगरप्रिंट

मेन बिजली नाममात्र 50 या 60 हर्ट्ज़ की होती है, लेकिन आपूर्ति और माँग बदलने के साथ इसकी सटीक आवृत्ति थोड़ी-थोड़ी खिसकती रहती है। क्योंकि पावर ग्रिड आपस में कसकर जुड़ा होता है, किसी भी क्षण यह खिसकाव पूरे नेटवर्क में, मिलीसेकंड के भीतर, एक जैसा होता है — इसलिए यह एक टाइमस्टैम्प की तरह काम करता है। यह रिकॉर्डिंग में दो तरह से पहुँचता है। माइक्रोफ़ोन इसे एक गुनगुनाहट के रूप में पकड़ते हैं। और मेन से चलने वाले लैंप ग्रिड की आवृत्ति के दोगुने, 100 या 120 हर्ट्ज़ पर झिलमिलाते हैं। जिस कैमरे का सेंसर छवि को पंक्ति-दर-पंक्ति पढ़ता है (“रोलिंग शटर”), वह इस झिलमिलाहट को वीडियो में हल्की पट्टियों के रूप में रिकॉर्ड करता है।

एक मान्यता जो टिक नहीं पाई

काम एक सीधे विचार से शुरू हुआ: कृत्रिम वीडियो में ग्रिड की झिलमिलाहट नहीं होगी, और उसकी अनुपस्थिति से उसे पकड़ा जा सकेगा। लेखक लिखते हैं कि यह विचार “सबूतों के संपर्क में आते ही टिक नहीं पाया”। छह टेक्स्ट-से-वीडियो जनरेटरों के 600 क्लिप में, झिलमिलाहट असली फ़ुटेज जितनी ही तीव्र दिखी — एक ऐसी प्रत्यक्ष आवृत्ति के साथ जो जनरेटर की फ़्रेम दर से तय होती थी, किसी असली ग्रिड से नहीं। सिर्फ़ झिलमिलाहट की तीव्रता से मापने पर असली और जनरेट किए गए क्लिप में फ़र्क़ नहीं किया जा सका: 0.51 का स्कोर, जहाँ 0.5 का मतलब है शुद्ध अनुमान।

इसलिए सवाल बदल गया। यह पूछने के बजाय कि किसी वीडियो में ग्रिड संकेत है या नहीं, सिस्टम पूछता है कि क्या वह संकेत दावा किए गए समय और जगह पर ग्रिड के एक स्वतंत्र रिकॉर्ड से मेल खाता है। मेल खाता निशान असली रिकॉर्डिंग का मज़बूत सबूत है। ग़ायब निशान कुछ साबित नहीं करता, क्योंकि बहुत-सी असली रिकॉर्डिंग — बाहर की, कम रोशनी वाली, या पेशेवर ध्वनि उपकरणों से बनी — में कोई काम लायक़ गुनगुनाहट नहीं होती।

सिस्टम कैसे काम करता है

एक छोटा न्यूरल नेटवर्क (लगभग 1,57,600 पैरामीटर) ध्वनि और वीडियो दोनों में ग्रिड संकेत पढ़ता है।
असली लेबल वाले उदाहरण कम हैं, इसलिए टीम ने इसे कृत्रिम उदाहरणों पर प्रशिक्षित किया: उन्होंने मॉडल बनाया कि ग्रिड आवृत्ति कैसे भटकती है और अपने नाममात्र मान की ओर वापस खींची जाती है, फिर इस खिसकाव को बिना गुनगुनाहट वाली वाणी और बिना झिलमिलाहट वाले वीडियो में डाला, साथ में पाँच तरह के असंगत संकेत भी (अनुपस्थित, सपाट, टूटा, ग़लत ग्रिड, जोड़ा हुआ)।
एक अलग चरण रिकॉर्डिंग के संकेत का मिलान ग्रिड के एक संदर्भ लॉग से करता है, या तो दावा किए गए समय की जाँच के लिए या किसी अज्ञात समय को खोजने के लिए।
एक स्थिर निर्णय ग्राफ़ — “एजेंटिक” हिस्सा — इसे छेड़छाड़ किए गए चेहरों, लिप-सिंक और मेटाडेटा के मौजूदा डिटेक्टरों के साथ जोड़ता है, और धीमे डिटेक्टरों को तभी बुलाता है जब तेज़ जाँचें निर्णायक न हों।

नतीजे

प्रशिक्षण में कभी न देखे गए स्रोतों की असली रिकॉर्डिंग पर, सिस्टम ने 93% असली ऑडियो और 100% असली वीडियो स्वीकार किए, जबकि एक भोले “क्या गुनगुनाहट है?” परीक्षण ने 53% और 15%।
जिन रिकॉर्डिंग से निशान निकाला जा सका, उन पर दावा किए गए रिकॉर्डिंग समय की जाँच ने असली और झूठे टाइमस्टैम्प को पूरी तरह अलग कर दिया; एक अंधी खोज ने अज्ञात रिकॉर्डिंग समय को 24 घंटे के संदर्भ में लगभग एक सेकंड के भीतर खोज निकाला।
एक असली दृश्य में, वीडियो की झिलमिलाहट उसके ग्रिड संदर्भ से और उसी रिकॉर्डिंग की ध्वनि से मेल खाती थी। उस दृश्य के दो AI रीमेक 60 हर्ट्ज़ पर झिलमिलाए, जो 50 पर चलने का दावा करने वाली जगह के लिए ग़लत ग्रिड है।
अपने सही ग्रिड के सामने जाँची गई 91 असली रिकॉर्डिंग में से, इसने कोई झूठा आरोप नहीं लगाया।
धीमे डिटेक्टरों को सिर्फ़ ज़रूरत पड़ने पर चलाने से, सटीकता खोए बिना, कंप्यूटिंग समय 54% घट गया।

कठिन मामला

ग्रिड संकेत रिकॉर्डिंग को प्रमाणित करता है, उसमें दिखने वाली चीज़ को नहीं। अगर कोई असली दृश्य फ़िल्माकर उसमें कोई चेहरा बदल दे, तो गुनगुनाहट असली ही रहती है। यह ज़िम्मेदारी चेहरे और लिप-सिंक डिटेक्टरों पर आती है, जिन्होंने असली फ़ेस-स्वैप के संपीड़ित फ़ुटेज पर संयोग के क़रीब प्रदर्शन किया: पूरे समूह का स्कोर लगभग 50% रहा। इस विधि को ग्रिड के संदर्भ लॉग भी चाहिए, जिन्हें लेखक ब्रिटेन और महाद्वीपीय यूरोप के लिए सार्वजनिक बताते हैं, पर बाक़ी जगह प्रतिबंधित या अप्रकाशित; और यह उस जालसाज़ को नहीं रोक सकती जो सही समय और जगह की असली ग्रिड रिकॉर्डिंग जोड़ दे।

लेखक अपने सिस्टम को एक छँटाई उपकरण के रूप में पेश करते हैं, कई सबूतों में से एक। वे लिखते हैं कि इसका लक्ष्य “किसी क्लिप को नक़ली घोषित करना नहीं, बल्कि नपे-तुले भरोसे के साथ यह बताना है कि कोई रिकॉर्डिंग कब वही है जो होने का वह दावा करती है।”