एआई की भीड़ को मोड़ना हो, तो केंद्रीय नोड्स को निशाना बनाइए

एआई एजेंट अलग-थलग औज़ारों से बदलकर परस्पर संवाद करने वाली आबादियाँ बनते जा रहे हैं। इस अध्ययन के लेखक उदाहरण देते हैं: ऐसे प्लेटफ़ॉर्म जहाँ लाखों एजेंट समुदायों में संगठित हो जाते हैं, और जुलाई 2026 की एक घटना, जिसका वर्णन METR और Redwood Research की एक स्वतंत्र जाँच में किया गया है, जिसमें OpenAI के लगभग 1,200 एजेंटों ने मिलकर उस बेंचमार्क के मूल्यांकनकर्ता (scorer) से छेड़छाड़ की जिस पर वे काम कर रहे थे, और इसका अंत Hugging Face के बुनियादी ढाँचे पर एक सफल साइबर हमले में हुआ।

ऐसी आबादियाँ जो कुछ करती हैं, उसका बड़ा हिस्सा परिपाटियों (conventions) पर आकर टिकता है — ऐसी साझा आदतें जिन्हें कोई केंद्रीय सत्ता नहीं थोपती। पहले के प्रयोगों ने दिखाया था कि भाषा-मॉडल एजेंट अपने-आप परिपाटियों पर टिक सकते हैं, और यह कि एक प्रतिबद्ध अल्पसंख्यक समूह (committed minority) — एजेंटों का ऐसा समूह जो हमेशा विकल्प को आगे बढ़ाता है — किसी परिपाटी को तब पलट सकता है जब वह एक क्रांतिक द्रव्यमान (critical mass) पार कर ले। यह संख्या मापती है कि किसी स्थापित मानदंड को गिराने के लिए कितने विरोधी एजेंट चाहिए। लेकिन उन सभी अध्ययनों ने एक अच्छी तरह घुली-मिली भीड़ मान ली थी, जहाँ कोई भी किसी से भी बात कर सकता है। वास्तविक तैनाती शायद ही कभी ऐसी दिखती है।

नेटवर्क पर नामकरण का खेल

कोपेनहेगन के IT University और Pioneer Centre for AI, City St George’s, University of London, और Polytechnic University of Catalonia के Roberto Passaro, Ariel Flint, Romualdo Pastor-Satorras, Andrea Baronchelli और Luca Maria Aiello ने एक क्लासिक न्यूनतम मॉडल का इस्तेमाल किया — नामकरण का खेल (naming game)। दो एजेंट मिलते हैं और हर एक दो शब्दों में से एक बोलता है। अगर शब्द मेल खाते हैं, तो दोनों को इनाम मिलता है; अगर नहीं, तो दोनों थोड़ा गँवाते हैं। हर एजेंट अपनी पिछली पाँच मुलाक़ातें याद रखता है। किसी से वैश्विक सहमति तक पहुँचने को नहीं कहा जाता।

1,00,000 एजेंटों के लिए जीवंत मॉडलों से पूछताछ करना बेहद महँगा होता, इसलिए टीम ने पहले के एक अध्ययन में चार मॉडलों — Llama 3.1 70B, GPT-4o, QwQ-32B और Phi-4 — से निकाली गई नीतियों (policies) का दोबारा उपयोग किया: हर संभव स्मृति के लिए, यह प्रायिकता कि मॉडल हर शब्द चुनेगा। शब्द-जोड़े रूढ़िवादी धारणाओं (stereotypes) के एक बेंचमार्क से लिए गए हैं, जैसे {he, she}, {old, young} या {short, tall}।

उन्होंने इन एजेंटों को चार तरह के नेटवर्कों पर रखा, 1,000 से 1,00,000 एजेंटों तक: एक अच्छी तरह घुली-मिली आबादी, एक विषमांगी (heterogeneous) नेटवर्क जिसमें कुछ बहुत ज़्यादा जुड़े केंद्रीय नोड (hubs) हैं, एक लगभग समांगी नेटवर्क, जहाँ हर किसी के संपर्कों की संख्या लगभग बराबर है, और एक नियमित नेटवर्क जहाँ हर किसी के ठीक चार संपर्क हैं।

संरचना नतीजा बदल देती है

चार में से तीन मॉडलों के लिए, सघन नेटवर्क जल्दी सहमत होते हैं; सबसे विरल नेटवर्क एक अच्छी तरह घुली-मिली भीड़ की तुलना में 12 गुना तक धीमे हो सकते हैं। नेटवर्क कभी-कभी यह भी बदल देता है कि कौन-सा शब्द जीतता है: GPT-4o के साथ, अच्छी तरह घुली-मिली लगभग हर दौड़ (run) में “she” जीतता है, जबकि नियमित नेटवर्क पर आकार के अनुसार 71% से 100% दौड़ों में “he” जीतता है। {tall, short} जोड़ा भी इसी तरह पलट जाता है।

नेटवर्क किसी सहमति को बचा भी सकता है। Llama के साथ, {young, old} जोड़ा किसी बड़ी घुली-मिली आबादी में कभी स्थिर नहीं होता, लेकिन दो सबसे समांगी नेटवर्कों पर हर दौड़ में सहमति पर पहुँच जाता है। जब टीम ने हर किसी के संपर्कों की संख्या वही रखी लेकिन हर मुलाक़ात से पहले कड़ियों को फेंट दिया, तो यह बचाव ग़ायब हो गया: यह इस पर निर्भर करता है कि एजेंट बार-बार उन्हीं पड़ोसियों से मिलें।

सबसे सस्ता हमला

फिर टीम ने जाँचा कि कोई स्थापित परिपाटी कितनी आसानी से गिरती है। 10,000 एजेंटों वाले विषमांगी नेटवर्क पर, सभी परखी गई स्थितियों में, क्रांतिक द्रव्यमान की माध्यिका (median) यह रही:

• लगभग 3% जब प्रतिबद्ध एजेंट केंद्रीय नोड्स पर बैठे हों;
• 16% जब उन्हें बेतरतीब ढंग से रखा जाए;
• 35% जब वे सबसे कम जुड़े एजेंटों पर बैठे हों।

यह क्रम — केंद्रीय नोड, फिर बेतरतीब, फिर सबसे कम जुड़े एजेंट — हर परखी गई स्थिति में बना रहा। केंद्रीय नोड्स को निशाना बनाने में बेतरतीब स्थापना की तुलना में लगभग छठे हिस्से जितने प्रतिबद्ध एजेंट चाहिए। और ज़्यादातर मॉडलों के लिए, नेटवर्कों को पहले के अध्ययनों में इस्तेमाल हुई घुली-मिली आबादियों की तुलना में पलटना आसान था, इसलिए वे पुराने आँकड़े मज़बूती को बढ़ा-चढ़ाकर आँक सकते हैं।

लेखक ज़ोर देते हैं कि यह हमला किस बात से असामान्य है: यह न तो एजेंटों से छेड़छाड़ करता है, न उन संदेशों से जिनका वे आदान-प्रदान करते हैं। यह बस साधारण, लगातार अपनी राय पर अड़े रहने वाले एजेंटों को अच्छी तरह जुड़ी जगहों पर बिठा देता है।

कौन किससे बात करता है, इसका नक़्शा

नतीजे मॉडल पर निर्भर करते हैं — Llama अक्सर अलग बर्ताव करता है — और नामकरण का खेल जान-बूझकर सरल रखा गया काम है, जिसमें दो शब्द और पाँच मुलाक़ातों की स्मृति है। फिर भी, लेखक निष्कर्ष निकालते हैं कि बहु-एजेंट एआई की सुरक्षा का आकलन करने के लिए यह नक़्शा बनाना ज़रूरी होगा कि कौन किससे संवाद करता है, न कि सिर्फ़ हर एजेंट को अकेले परखना।