कंप्यूटिंग और एआईप्रीप्रिंटसिमुलेशनपढ़ने में 5 मिनट

जब एआई एआई की नक़ल करता है, तो किसी को सीखते रहना पड़ता है

किसी जनरेटिव मॉडल को पहले के किसी मॉडल के आउटपुट पर प्रशिक्षित कीजिए, और उसकी गुणवत्ता गिरने लगती है। क्रमिक पीढ़ियों में, सबसे दुर्लभ सामग्री आम सामग्री से पहले ग़ायब होती है, और मॉडल जो कुछ उत्पन्न करता है वह संकरा होता जाता है। इस मॉडल पतन (model collapse) का अब अच्छी तरह अध्ययन हो चुका है — और इसके इलाजों का भी। काम करने वाले सभी उपाय लूप के बाहर से कुछ लाते हैं: ताज़ा मानव डेटा, सहेजकर रखा गया वास्तविक डेटा, सत्यापक (verifiers), मानवीय चयन (curation)।

वर्मॉन्ट विश्वविद्यालय में कार्यरत कंप्यूटर वैज्ञानिक नाम ले (Nam Le) ने उस ओर ध्यान दिलाया है जिसे ये विश्लेषण मानकर चलते हैं। वे ताज़ा डेटा को एक निश्चित संग्रह की तरह देखते हैं, जो जितनी भी मात्रा में चाहिए उपलब्ध है, और वे मान लेते हैं कि जिस दुनिया का वर्णन हो रहा है वह स्थिर खड़ी है। दोनों में से कोई बात सच नहीं है: ताज़ा पाठ लोग लिखते हैं, जो चीज़ें ख़ुद पता लगाने के बजाय अधिकाधिक मॉडलों से पूछते हैं; और दुनिया बदलती रहती है।

एक पुराना विरोधाभास

दोनों मुद्दे एक पुराने सिद्धांत के केंद्र में हैं। 1988 में, रॉजर्स (Rogers) ने उस स्थिति का वर्णन किया जिसे आज रॉजर्स का विरोधाभास (Rogers’ paradox) कहा जाता है: ऐसी आबादी में जहाँ नक़ल इसलिए फैलती है क्योंकि वह व्यक्तिगत रूप से सीखने से सस्ती है, अंत में हर किसी की स्थिति उस आबादी से बेहतर नहीं होती जिसने कभी नक़ल नहीं की। नक़लें बासी पड़ जाती हैं, और किसी को सीखने की क़ीमत चुकाते रहना पड़ता है।

सांस्कृतिक विकास पर बाद के काम ने इस विचार को निखारा। एक आलोचनात्मक (critical) शिक्षार्थी नक़ल करता है, नक़ल को दुनिया के सामने जाँचता है और अगर वह विफल हो तो ख़ुद सीखता है; ऐसे शिक्षार्थी हर किसी का लाभ बढ़ाते हैं। एक अनुरूपतावादी (conformist) शिक्षार्थी वही नक़ल करता है जो आम है, जो सस्ता है लेकिन दुर्लभ रूपों को घिसता जाता है।

ले का तर्क यह है कि किसी मॉडल को दूसरे मॉडल के आउटपुट पर प्रशिक्षित करना ठीक इसी अर्थ में सामाजिक अधिगम (social learning) है, इसलिए यह सिद्धांत लागू होना चाहिए। अपने सबसे सरल रूप में, यह एक पंक्ति का नियम देता है कि जब किसी वंशक्रम (lineage) के प्रशिक्षण डेटा का एक हिस्सा ताज़ा हो, तो वह कितना ज्ञान बचाए रखता है।

डार्विन और मोबी-डिक, बार-बार नक़ल

इसकी जाँच के लिए, ले ने प्रोजेक्ट गुटेनबर्ग (Project Gutenberg) की दो किताबों पर छोटे भाषा मॉडलों के वंशक्रम प्रशिक्षित किए: डार्विन की जीवजातियों की उत्पत्ति (On the Origin of Species) और मेलविल (Melville) की मोबी-डिक (Moby-Dick)। हर पीढ़ी ने पिछली पीढ़ी द्वारा उत्पन्न पाठ से सीखा, जिसमें किताब का कुछ ताज़ा पाठ मिलाया गया था।

केवल अपने ही आउटपुट पर पलने वाले शब्द-स्तर के मॉडलों ने बारह पीढ़ियों में पाँच में से चार दुर्लभ शब्द खो दिए। शुरुआती पीढ़ी का एक नमूना अब भी कुछ यूँ पढ़ा जाता है: “i cannot see that a genus become fitted for most justly celebrated elder huber”; बारहवीं पीढ़ी तक आते-आते: “struggle of the on that may inheritable detected i hybrids, kept.”

चौंकाने वाला हिस्सा पूर्वानुमान है। ले ने नियम के एकमात्र प्राचल (parameter) को — इस बात की संभावना कि नक़ल किए गए ज्ञान का कोई अंश हर पीढ़ी में खो जाए — केवल पूरी तरह स्व-पोषित वंशक्रम पर फ़िट किया, फिर उसे बिना बदले 10%, 30% या 50% ताज़ा डेटा वाले वंशक्रमों का पूर्वानुमान लगाने में इस्तेमाल किया। इसने 3 प्रतिशत अंकों के भीतर सही बताया कि उन्होंने कितने दुर्लभ शब्द बचाए रखे। ज्ञान की एक दूसरी श्रेणी के साथ — नाज़ुक बनाम टिकाऊ — यह नियम एक छोटे ट्रांसफ़ॉर्मर (transformer) और एक पूर्व-प्रशिक्षित भाषा मॉडल, OPT-125m, के लिए भी सही रहा।

जब दुनिया आगे बढ़ती है

इसके बाद, ख़ुद “दुनिया” को बदलने वाला बनाया गया: दोनों किताबों में खिसकती एक खिड़की, ताकि नई शब्दावली आती रहे और पुराने शब्द जाते रहें। यह जितनी तेज़ी से खिसकी, ख़ुद की नक़ल करने वाले वंशक्रम को उतने ही ज़्यादा ताज़ा डेटा की ज़रूरत पड़ी। पूरी तरह ताज़ा कॉर्पस जितना कवर करता, उसका 80% बचाए रखने के लिए ताज़ा हिस्से को लगभग 30% से बढ़कर लगभग 45% तक जाना पड़ा। शोधपत्र का पूर्वानुमान है कि जैसे-जैसे कृत्रिम (synthetic) पाठ जमा होगा, तेज़ी से बदलने वाले क्षेत्र सबसे पहले बिगड़ेंगे।

पूर्व-प्रशिक्षित मॉडल ने अलग व्यवहार किया: उसका ज्ञान टिका रहा, दुनिया बदले या नहीं। ले की व्याख्या यह है कि उसके पूर्व-प्रशिक्षित भार (weights), जो हर पीढ़ी में बिना बदले विरासत में मिलते हैं, ऐसा ज्ञान हैं जो कभी नक़ल की शृंखला से होकर नहीं गुज़रता। एक चेतावनी के साथ: यहाँ बदलता हुआ पाठ वही था जिसे मॉडल पूर्व-प्रशिक्षण के दौरान पहले ही देख चुका था।

लूप में लोग

फिर आता है वह हिस्सा जो शोधपत्र को उसका शीर्षक देता है। ले ने एक ऐसा मॉडल बनाया जिसमें लोग या तो किसी तथ्य का ख़ुद, एक क़ीमत चुकाकर, पता लगा सकते हैं, या मुफ़्त में एआई से पूछ सकते हैं और केवल उतनी ही बार सही हो सकते हैं जितनी बार एआई सही है। लोग जो लिखते हैं वह अगले मॉडल का प्रशिक्षण डेटा बन जाता है, साथ में कुछ ऐसा पाठ भी जो मॉडल ख़ुद लिखता है।

संतुलन (equilibrium) की तस्वीर कठोर है:

  • एआई अंततः बस इतनी बार सही होता है कि उससे पूछने का फ़ायदा ठीक उतना ही हो जितना ख़ुद पता लगाने का, जब पता लगाने की लागत भी गिन ली जाए — चाहे उसका आकार या संरचना (architecture) कुछ भी हो;
  • कुल मिलाकर लोगों की स्थिति एआई के बिना की तुलना में बेहतर नहीं होती: रॉजर्स का विरोधाभास, मनुष्यों और मशीनों के लिए एक साथ;
  • प्रशिक्षण पाठ का जितना ज़्यादा हिस्सा मॉडल ख़ुद लिखते हैं, उतने ही ज़्यादा लोगों को ख़ुद सीखते रहना पड़ता है — जब आधा पाठ मॉडलों का लिखा हो तो दोगुने लोगों को। ले का निष्कर्ष है कि ताज़ा डेटा की क़ीमत मानवीय मेहनत से चुकाई जाती है।

एक रास्ता है। अगर लोग एआई के उत्तर को दुनिया के सामने जाँचें और उसके ग़लत होने पर फिर से सीखें, तो विरोधाभास टूट जाता है: सिमुलेशन में, औसत लाभ 0.93 पर स्थिर होता है, जबकि एआई के बिना यह 0.70 है। इस नज़रिए से, सत्यापन को सस्ता बनाने वाले उपकरण कोई सुविधा नहीं, बल्कि वह चीज़ हैं जो पूरी व्यवस्था को ढहने से रोकती है।

फ़िल्टर जो हालत बदतर करते हैं

यही नज़रिया कृत्रिम डेटा को साफ़ करने में इस्तेमाल होने वाले फ़िल्टरों को भी छाँटता है। उन नमूनों को रखना जिन्हें मॉडल सबसे अधिक संभाव्य (plausible) पाता है, अनुरूपतावादी नक़ल है, और प्रयोगों में इसने दुर्लभ शब्दों के खोने की रफ़्तार बढ़ा दी: पूर्व-प्रशिक्षित मॉडल ने उनमें से 5% बचाए, जबकि आधे नमूने यादृच्छिक रूप से रखे जाने पर 57%। केवल वे फ़िल्टर जो पाठ को दुनिया के सामने जाँचते हैं, आलोचनात्मक शिक्षार्थियों की तरह काम करते हैं। यह सब छोटे मॉडलों के साथ दिखाया गया, जिनमें सबसे बड़े में 125 मिलियन पैरामीटर थे, और ले ने इसे बड़े पैमाने पर परखने को मुख्य खुला प्रश्न बताया है।