वीज-जाळ्याची गुणगुण, AI व्हिडिओंविरुद्धचा साक्षीदार

AI ने तयार केलेले व्हिडिओ ओळखणे ही एक शस्त्रस्पर्धा बनली आहे, आणि साउथॅम्प्टन सोलेंट विद्यापीठातील रायन वायटन (Ryan Wyton) आणि बाचा रेहमान (Bacha Rehman) यांच्या मते, ही अशी स्पर्धा आहे जी “शोधक हरत आहे”. बहुतेक शोधक ज्या निर्मिती-साधनांवर त्यांना प्रशिक्षित केले गेले त्यांचे उघड करणारे ठसे शिकतात. साठ लाख क्लिपच्या एका अलीकडील मापदंड-चाचणीत, सर्वोत्तम शोधक एकूण फक्त सुमारे 80% अचूकता गाठतात, आणि त्यांनी कधीही न पाहिलेल्या साधनांवर ते निव्वळ अंदाजाच्या पातळीपर्यंत किंवा त्याखाली घसरतात.

त्याऐवजी या दोन संशोधकांनी असा संकेत शोधला ज्यावर निर्मिती-साधनांचे नियंत्रण नसते: विद्युत जाळ्याची वारंवारता (electric network frequency), किंवा ENF.

जाळ्याचा ठसा

मुख्य वीज नाममात्र 50 किंवा 60 हर्ट्झची असते, पण पुरवठा आणि मागणी बदलत असताना तिची नेमकी वारंवारता थोड्या थोड्या प्रमाणात सरकत राहते. वीज-जाळे घट्टपणे जोडलेले असल्यामुळे, ही सरक कोणत्याही क्षणी संपूर्ण जाळ्यात, मिलिसेकंदांच्या अचूकतेने, सारखीच असते — त्यामुळे ती वेळेच्या शिक्क्यासारखे (timestamp) काम करते. ती ध्वनिमुद्रणांत दोन मार्गांनी शिरते. मायक्रोफोन ती गुणगुण म्हणून पकडतात. आणि मुख्य विजेवर चालणारे दिवे जाळ्याच्या वारंवारतेच्या दुप्पट, 100 किंवा 120 हर्ट्झवर लुकलुकतात. ज्या कॅमेऱ्याचा सेन्सर प्रतिमा ओळीमागून ओळ वाचतो (“रोलिंग शटर”), तो कॅमेरा ही लुकलुक व्हिडिओमध्ये मंद पट्ट्यांच्या रूपात नोंदवतो.

न टिकलेले गृहीतक

कामाची सुरुवात एका सोप्या कल्पनेने झाली: कृत्रिम व्हिडिओमध्ये जाळ्याची लुकलुक नसेल आणि ती नसण्यावरूनच तो ओळखता येईल. ही कल्पना “पुराव्याच्या संपर्कात टिकली नाही”, असे लेखक लिहितात. मजकुरावरून व्हिडिओ तयार करणाऱ्या सहा साधनांच्या 600 क्लिपमध्ये, लुकलुक खऱ्या चित्रीकरणाइतक्याच ताकदीने दिसली — आणि तिची भासमान वारंवारता कोणत्याही खऱ्या जाळ्याने नव्हे, तर साधनाच्या फ्रेम-दराने ठरलेली होती. केवळ लुकलुकीच्या ताकदीवरून मोजल्यास, खऱ्या आणि निर्मित क्लिप वेगळ्या ओळखता येत नव्हत्या: 0.51 गुण, जिथे 0.5 म्हणजे निव्वळ अंदाज.

म्हणून प्रश्न बदलला. व्हिडिओमध्ये जाळ्याचा संकेत आहे का असे विचारण्याऐवजी, प्रणाली विचारते की तो संकेत दावा केलेल्या वेळी आणि ठिकाणी जाळ्याच्या स्वतंत्र नोंदीशी जुळतो का. जुळणारा ठसा हा खऱ्या ध्वनिमुद्रणाचा भक्कम पुरावा आहे. ठसा नसणे काहीच सिद्ध करत नाही, कारण अनेक खरी मुद्रणे — घराबाहेरची, मंद प्रकाशातली, किंवा व्यावसायिक ध्वनि-उपकरणांनी केलेली — कोणतीही वापरण्याजोगी गुणगुण बाळगत नाहीत.

प्रणाली कशी काम करते

एक छोटे न्यूरल नेटवर्क (सुमारे 157,600 पॅरामीटर) ध्वनी आणि व्हिडिओ दोन्हींमधील जाळ्याचा संकेत वाचते.
खरी लेबल लावलेली उदाहरणे दुर्मीळ आहेत, म्हणून संघाने त्याला कृत्रिम उदाहरणांवर प्रशिक्षित केले: जाळ्याची वारंवारता कशी भटकते आणि पुन्हा तिच्या नाममात्र मूल्याकडे कशी खेचली जाते याचे त्यांनी मॉडेल तयार केले, मग ही सरक गुणगुण नसलेल्या बोलण्यात आणि लुकलुक नसलेल्या व्हिडिओत घातली, त्यासोबत विसंगत संकेतांचे पाच प्रकार (नसलेला, सपाट, तुटलेला, चुकीच्या जाळ्याचा, जोडलेला) देखील.
एक स्वतंत्र टप्पा मुद्रणातील संकेत जाळ्याच्या संदर्भ-नोंदीशी जुळवतो, एकतर दावा केलेली वेळ तपासण्यासाठी किंवा अज्ञात वेळ शोधण्यासाठी.
एक स्थिर निर्णय-आलेख — “एजंटिक” (agentic) भाग — हे सर्व फेरफार केलेले चेहरे, ओठांची हालचाल (lip-sync) आणि मेटाडेटा यांच्या विद्यमान शोधकांशी जोडतो, आणि जलद तपासण्यांतून निष्कर्ष निघत नाही तेव्हाच संथ शोधकांना बोलावतो.

निकाल

प्रशिक्षणात कधीही न पाहिलेल्या स्रोतांमधील खऱ्या मुद्रणांवर, प्रणालीने 93% खरा ऑडिओ आणि 100% खरे व्हिडिओ स्वीकारले, तर साध्या “गुणगुण आहे का?” चाचणीने 53% आणि 15%.
दावा केलेली मुद्रण-वेळ तपासताना, ज्या मुद्रणांतून ठसा काढता आला त्यांवर प्रणालीने खरे आणि खोटे वेळ-शिक्के पूर्णपणे वेगळे केले; अंध शोधाने एक अज्ञात मुद्रण-वेळ 24 तासांच्या संदर्भात सुमारे एका सेकंदाच्या आत शोधली.
एका खऱ्या दृश्यात, व्हिडिओची लुकलुक तिच्या जाळ्याच्या संदर्भाशी आणि त्याच मुद्रणातील ध्वनीशी जुळली. त्या दृश्याच्या दोन AI पुनर्निर्मितींची लुकलुक 60 हर्ट्झवर होती, जी 50 वर चालत असल्याचा दावा असलेल्या ठिकाणासाठी चुकीचे जाळे आहे.
त्यांच्या खऱ्या जाळ्याशी तपासलेल्या 91 खऱ्या मुद्रणांपैकी, प्रणालीने एकही खोटा आरोप केला नाही.
गरज असेल तेव्हाच संथ शोधक चालवल्यामुळे अचूकता न गमावता संगणनाचा वेळ 54% ने कमी झाला.

कठीण प्रकरण

जाळ्याचा संकेत मुद्रणाची सत्यता पटवतो, त्यात काय दिसते त्याची नव्हे. कोणी एखादे खरे दृश्य चित्रित केले आणि मग त्यात चेहरा बदलला, तर गुणगुण खरीच राहते. ते काम चेहरा आणि ओठांच्या हालचालींच्या शोधकांवर येते, आणि खऱ्या चेहरा-बदलांच्या संकुचित (compressed) चित्रीकरणावर त्यांची कामगिरी निव्वळ अंदाजाच्या जवळपास होती: संपूर्ण संचाचा गुण सुमारे 50% आला. या पद्धतीला जाळ्याच्या संदर्भ-नोंदीही लागतात, ज्या लेखकांच्या वर्णनानुसार ब्रिटन आणि खंडीय युरोपसाठी सार्वजनिक आहेत पण इतरत्र मर्यादित किंवा अप्रकाशित आहेत, आणि योग्य वेळ आणि ठिकाणाचे खरे जाळे-मुद्रण जोडणाऱ्या बनावटकाराला ती थांबवू शकत नाही.

लेखक त्यांची प्रणाली प्राथमिक छाननीचे (triage) साधन म्हणून मांडतात, इतर पुराव्यांपैकी एक पुरावा. तिचे उद्दिष्ट, ते लिहितात, “एखादी क्लिप बनावट असल्याचे जाहीर करणे नव्हे, तर एखादे मुद्रण जे असल्याचा दावा करते तेच असते तेव्हा, मोजूनमापून ठरवलेल्या आत्मविश्वासाने, ते सांगणे” हे आहे.