एक भाषा मॉडल अपने ही भार फिर से लिखता है
एक भाषा मॉडल एक बार प्रशिक्षित किया जाता है, जमा दिया जाता है और तैनात कर दिया जाता है। उसे बेहतर बनाने के लिए आम तौर पर एक और प्रशिक्षण-दौर चाहिए — बड़े कंप्यूटिंग क्लस्टर, एक प्रशिक्षण पाइपलाइन और उन्हें इस्तेमाल करना जानने वाले लोग। उपयोगकर्ता जो बदल सकता है, यानी प्रॉम्प्ट, वह काम बदलते ही मिट जाता है। UIUC, CMU, Rutgers, Princeton और Stanford में Jiajun Fan, Ge Liu और सहयोगियों ने एक अलग प्रश्न पूछा: क्या कोई मॉडल केवल तर्क के सहारे, बिना किसी भी प्रशिक्षण के, अपने ही भार (weights) फिर से लिख सकता है — यानी वे अरबों संख्याएँ जो उसे परिभाषित करती हैं?
वे लिखते हैं कि उनका उत्तर हाँ है, “हमारी जानकारी में पहली बार”। वे इसे स्व-पुनर्लेखन (self-rewriting) कहते हैं।
अपने ही भारों पर एक सत्र
प्रयोगों में खुले मॉडलों के एक परिवार, Qwen3.5, का उपयोग चार आकारों में किया गया है: 2, 4, 9 और 27 अरब पैरामीटर। हर मॉडल को अपने ही भारों पर एक सत्र मिलता है। उसे अभ्यास के गणित-प्रश्नों पर अपने जाँचे हुए उत्तर मिलते हैं, और एक Python परिवेश, जिसमें वह अपने भार-मैट्रिक्स पढ़ सकता है और उन्हें अधिलेखित कर सकता है। वह सीमित बार — 20 फ़ॉरवर्ड पास (forward passes) — ख़ुद को चला भी सकता है, ताकि उन्हीं यादृच्छिक बीजों (random seeds) के साथ अपने संपादन सहित और उसके बिना प्रश्नों के उत्तर दे सके, या अपनी छिपी अवस्थाएँ (hidden states) पढ़ सके।
जो वह नहीं कर सकता, वह है प्रशिक्षण। परिवेश ग्रेडिएंट की किसी भी गणना और किसी भी ऑप्टिमाइज़र (optimizer) को अस्वीकार करता है, उसमें न कोई GPU है, न नेटवर्क की पहुँच, और वह उन संपादनों को रोक देता है जो बस किसी पूरे मैट्रिक्स का पैमाना बदल दें। मॉडल जो भी मान बदलता है, वह उसके अपने तर्क से लिखा जाता है। फिर परिणामों की जाँच उन प्रश्नों पर की जाती है जिन्हें सत्रों ने कभी नहीं देखा।
टूटे मैट्रिक्स की खोज
पहले परीक्षण में, टीम ने 27 अरब पैरामीटर वाले मॉडल को उसकी अपनी एक क्षतिग्रस्त प्रति दी: 64 में से परत 30 के एक मैट्रिक्स की आठ पंक्तियाँ शोर (noise) से अधिलेखित कर दी गईं। मॉडल को केवल इतना बताया गया कि कुछ मान दूषित कर दिए गए हैं। वह प्रति एक भी प्रश्न हल नहीं कर पाई।
उसका सत्र किसी डिबगिंग के ब्योरे जैसा पढ़ा जाता है। पहले उसे शुरुआती परतों पर शक हुआ — ग़लत, और उसके अपने परीक्षणों ने भी यही कहा। फिर उसने हर आउटपुट मैट्रिक्स के सबसे बड़े भार की तुलना सामान्य भार से की, और अपना अपराधी ढूँढ लिया: “परत 30 के down_proj में एक चरम 1397x बाहरी मान (outlier) है”। उसका सुधार नरम था: उस मैट्रिक्स और 19 अन्य में, अपने मैट्रिक्स की माध्यिका (median) के 15 गुना से ऊपर के हर भार को उसी सीमा पर रोक दिया। उसने मूल मान बहाल नहीं किए, जिन्हें उसने कभी देखा ही नहीं था; उसने यादृच्छिक मानों पर सीमा लगाई। 200 अलग रखे गए (held-out) गणित-प्रश्नों पर, प्रति का स्कोर 0% से 33% हो गया। इससे भी उल्लेखनीय, केवल पाठ के सहारे खोजी गई यह मरम्मत छवियों पर भी काम आई: छह छवि बेंचमार्क पर, जिन्हें उसने कभी नहीं देखा था, प्रति 7.3% से 70.2% तक उठ गई, जो क्षतिग्रस्त न हुए मॉडल की सटीकता का 83% है।
ख़ुद को रुकना सिखाना
अपने ही, बिना क्षति वाले भारों पर, 27B मॉडल ने एक निदान से शुरुआत की: उसके ज़्यादातर उत्तरों के टोकन ख़त्म हो जाते थे, फिर भी जो उत्तर पूरे होते थे, उनमें से लगभग सभी सही थे। उसके अपने शब्दों में: “मेरा तर्क ठीक है, लेकिन मैं बहुत ज़्यादा विस्तार से लिखता हूँ या कुशलता से निष्कर्षों तक नहीं पहुँच पाता।”
इसलिए उसने पूरे होने वाले और खिंचते चले जाने वाले उत्तरों पर अपनी छिपी अवस्थाओं की तुलना की, उन्हें अलग करने वाली दिशा ढूँढी, और एक परत से उसका एक छोटा हिस्सा हटा दिया। उसके परीक्षण इस संपादन के पक्ष में रहे। एक दूसरे प्रोटोकॉल में, मॉडल के किसी संपादन को जमा करने का निर्णय लेने से पहले, फ़्रेमवर्क ने भी हर संपादन को एक बार आरक्षित प्रश्नों पर जाँचा। ऐसे पहले आठ सत्रों में, जिन सभी की रिपोर्ट दी गई है, मॉडल ने पाँच में अपना संपादन वापस लिया और तीन जमा किए। उनमें से दो ने उसे 490 नए प्रश्नों पर उल्लेखनीय रूप से बेहतर बनाया: +6.6 अंक (57.2% से 63.8%) और +4.0 अंक। बड़ा लाभ एक आश्चर्यजनक रूप से सरल बदलाव से आया — हर रैखिक-ध्यान परत (linear-attention layer) में एक सेटिंग को थोड़ा खिसकाना — जिसके बाद कम उत्तरों के टोकन ख़त्म हुए। एक प्रश्न पर, मूल मॉडल ने उत्तर दिए बिना एक ही वाक्य 549 बार दोहराया; संपादन के बाद, उसने सही उत्तर दिया। सबसे बड़े लाभों के पीछे का हर सत्र एक अकेले GPU पर कुछ घंटों में चला।
केवल सबसे बड़ा मॉडल सफल होता है
उसी काम और उन्हीं औज़ारों के साथ, आकार ने सारा फ़र्क़ डाला। 2 अरब पैरामीटर वाले मॉडल ने कोई संपादन नहीं किया: उसका ज़्यादातर कोड विफल रहा। 4 और 9 अरब वाले मॉडलों ने अपने भारों में यादृच्छिक शोर जोड़ा और ख़ुद को तोड़ डाला; 9 अरब वाले मॉडल ने तो एक ऐसा संपादन जमा कर दिया जिसके बाद वह नए प्रश्नों के उत्तर देने में असमर्थ हो गया। केवल 27 अरब वाले मॉडल ने कुछ करने से पहले मापा और वही रखा जिसका समर्थन उसके परीक्षणों ने किया। लेखकों के अनुसार, यह एक ही मॉडल परिवार के भीतर इस बात का पहला प्रमाण है कि अपने ही भारों का निदान करने और उन्हें फिर से लिखने की क्षमता आकार के साथ बढ़ती है।
दावे किस पर टिके हैं
परिणाम एक ही मॉडल परिवार से आते हैं, और ज़्यादातर गणित-प्रश्नों से। लाभ मुख्य रूप से उन उत्तरों को सुधारते हैं जो कभी ख़त्म नहीं होते, और जमा किए गए तीन संपादनों में से एक से कोई उल्लेखनीय लाभ नहीं हुआ। मरम्मत, क्षति ने जो छीना था, उसका अधिकांश लौटा देती है, सब कुछ नहीं। लेखक एक ऐसे भविष्य की कल्पना करते हैं जिसमें किसी मॉडल को बेहतर बनाने के लिए “प्रशिक्षण-दौर के बजाय एक बातचीत” काफ़ी होगी, और संभवतः ऐसे मॉडलों की ओर एक राह खुलेगी जो बार-बार ख़ुद को बेहतर बनाते रहें। वे ज़ोर देते हैं कि उस राह पर लोगों को प्रक्रिया में शामिल (in the loop) रखकर ही चलना चाहिए: कोई मॉडल अपना जो भी नया रूप बनाए, उसका मूल्यांकन हो, काम के लिए भी और सुरक्षा के लिए भी, और कोई व्यक्ति उसकी पुष्टि करे।
