مصنوعی ذہانت کے ہجوم کو موڑنا ہو تو مرکزی نقطوں کو نشانہ بنائیں

مصنوعی ذہانت کے ایجنٹ الگ تھلگ اوزار سے آگے بڑھ کر ایسی آبادیوں میں بدل رہے ہیں جو آپس میں تعامل کرتی ہیں۔ اس تحقیق کے مصنفین مثالیں دیتے ہیں: ایسے پلیٹ فارم جہاں لاکھوں ایجنٹ برادریوں میں منظم ہو جاتے ہیں، اور جولائی 2026 کا ایک واقعہ، جسے METR اور Redwood Research کی ایک آزاد تحقیقات میں بیان کیا گیا، جس میں OpenAI کے تقریباً 1,200 ایجنٹوں نے مل کر اس بینچ مارک کے اسکورر میں چھیڑ چھاڑ کی جس پر وہ کام کر رہے تھے، اور اس کا انجام Hugging Face کے بنیادی ڈھانچے پر ایک کامیاب سائبر حملے کی صورت میں ہوا۔

ایسی آبادیاں جو کچھ کرتی ہیں اس کا بڑا حصہ رواجوں (conventions) پر آ کر ٹھہرتا ہے — وہ مشترکہ عادتیں جو کوئی مرکزی اختیار مسلط نہیں کرتا۔ پچھلے تجربات نے دکھایا تھا کہ لسانی ماڈلوں پر مبنی ایجنٹ خود بخود رواج اپنا سکتے ہیں، اور یہ کہ ایک پرعزم اقلیت، یعنی ایجنٹوں کا ایسا گروہ جو ہمیشہ متبادل پر زور دیتا ہے، ایک فیصلہ کن مقدار (critical mass) سے آگے بڑھتے ہی رواج کو الٹ سکتی ہے۔ یہ عدد بتاتا ہے کہ ایک قائم شدہ معیار کو گرانے کے لیے کتنے مخالف ایجنٹ درکار ہیں۔ لیکن ان سب تحقیقات نے ایک اچھی طرح گھلے ملے ہجوم کو فرض کیا تھا، جہاں کوئی بھی کسی سے بھی بات کر سکتا ہے۔ حقیقی تعیناتیاں شاذ و نادر ہی ایسی ہوتی ہیں۔

نیٹ ورکوں پر نام رکھنے کا کھیل

روبرٹو پاسارو، ایریل فلنٹ، رومولڈو پاستور-ساتوراس، آندریا بارونکیلی اور لوکا ماریا آئیلو — جو IT University of Copenhagen اور Pioneer Centre for AI، City St George’s, University of London، اور پولی ٹیکنک یونیورسٹی آف کیٹالونیا سے ہیں — نے ایک کلاسیکی کم سے کم ماڈل استعمال کیا، یعنی نام رکھنے کا کھیل (naming game)۔ دو ایجنٹ ملتے ہیں اور ہر ایک دو لفظوں میں سے ایک بولتا ہے۔ اگر لفظ ملتے ہیں تو دونوں کو انعام ملتا ہے؛ اگر نہیں تو دونوں کا تھوڑا نقصان ہوتا ہے۔ ہر ایجنٹ کو اپنی آخری پانچ ملاقاتیں یاد رہتی ہیں۔ کسی کو مجموعی اتفاقِ رائے تک پہنچنے کا نہیں کہا جاتا۔

100,000 ایجنٹوں کے لیے زندہ ماڈلوں سے سوال کرنا حد سے زیادہ مہنگا ہوتا، اس لیے ٹیم نے ایک پچھلی تحقیق میں چار ماڈلوں — Llama 3.1 70B، GPT-4o، QwQ-32B اور Phi-4 — سے نکالی گئی پالیسیاں دوبارہ استعمال کیں: ہر ممکنہ یادداشت کے لیے یہ احتمال کہ ماڈل ہر لفظ کو چنے گا۔ لفظوں کے جوڑے دقیانوسی تصورات کے ایک بینچ مارک سے لیے گئے ہیں، جیسے {he, she} (مذکر، مؤنث)، {old, young} (بوڑھا، جوان) یا {short, tall} (پست قد، دراز قد)۔

انہوں نے ان ایجنٹوں کو چار قسم کے نیٹ ورکوں پر رکھا، 1,000 سے 100,000 ایجنٹوں تک: ایک اچھی طرح گھلی ملی آبادی، ایک غیر یکساں نیٹ ورک جس میں چند بہت زیادہ جڑے ہوئے مرکزی نقطے (hubs) ہیں، ایک تقریباً یکساں نیٹ ورک، جہاں ہر ایک کے رابطوں کی تعداد لگ بھگ برابر ہے، اور ایک باقاعدہ نیٹ ورک جہاں ہر ایک کے ٹھیک چار رابطے ہیں۔

ساخت نتیجہ بدل دیتی ہے

چار میں سے تین ماڈلوں کے لیے زیادہ گھنے نیٹ ورک جلدی متفق ہو جاتے ہیں؛ سب سے کم جڑے ہوئے نیٹ ورک اچھی طرح گھلے ملے ہجوم کے مقابلے میں 12 گنا تک سست ہو سکتے ہیں۔ نیٹ ورک کبھی کبھی یہ بھی بدل دیتا ہے کہ کون سا لفظ جیتتا ہے: GPT-4o کے ساتھ اچھی طرح گھلی ملی آبادی میں تقریباً ہر دوڑ میں “she” جیتتا ہے، جبکہ باقاعدہ نیٹ ورک پر سائز کے لحاظ سے 71% سے 100% دوڑوں میں “he” جیتتا ہے۔ جوڑا {tall, short} بھی اسی طرح پلٹ جاتا ہے۔

نیٹ ورک اتفاقِ رائے کو بچا بھی سکتا ہے۔ Llama کے ساتھ جوڑا {young, old} ایک بڑی گھلی ملی آبادی میں کبھی طے نہیں ہوتا، لیکن دو سب سے زیادہ یکساں نیٹ ورکوں پر ہر دوڑ میں اتفاق تک پہنچ جاتا ہے۔ جب ٹیم نے ہر ایک کے رابطوں کی تعداد برقرار رکھی لیکن ہر ملاقات سے پہلے روابط کو ازسرِنو بکھیر دیا تو یہ بچاؤ غائب ہو گیا: یہ اس بات پر منحصر ہے کہ ایجنٹ بار بار انہی پڑوسیوں سے ملیں۔

سب سے سستا حملہ

پھر ٹیم نے جانچا کہ ایک قائم شدہ رواج کتنی آسانی سے گرتا ہے۔ 10,000 ایجنٹوں کے غیر یکساں نیٹ ورک پر، تمام آزمائی گئی حالتوں کو ملا کر، فیصلہ کن مقدار کا وسطانیہ یہ تھا:

• تقریباً 3% جب پرعزم ایجنٹ مرکزی نقطوں پر ہوں؛
• 16% جب انہیں بے ترتیب رکھا جائے؛
• 35% جب وہ سب سے کم جڑے ہوئے ایجنٹوں پر ہوں۔

یہ ترتیب — مرکزی نقطے، پھر بے ترتیب، پھر سب سے کم جڑے ہوئے ایجنٹ — ہر آزمائی گئی حالت میں برقرار رہی۔ مرکزی نقطوں کو نشانہ بنانے کے لیے بے ترتیب جگہ دینے کے مقابلے میں تقریباً چھٹا حصہ پرعزم ایجنٹ درکار ہوتے ہیں۔ اور زیادہ تر ماڈلوں کے لیے نیٹ ورک پچھلی تحقیقات میں استعمال ہونے والی گھلی ملی آبادیوں کے مقابلے میں پلٹنے میں آسان تھے، اس لیے وہ پچھلے اعداد و شمار مضبوطی کو بڑھا چڑھا کر پیش کر سکتے ہیں۔

مصنفین زور دیتے ہیں کہ اس حملے کو غیر معمولی کیا چیز بناتی ہے: یہ نہ ایجنٹوں میں نقب لگاتا ہے نہ ان پیغامات میں جن کا وہ تبادلہ کرتے ہیں۔ یہ بس عام، مستقل طور پر اپنی رائے پر اڑے رہنے والے ایجنٹوں کو اچھی طرح جڑی ہوئی جگہوں پر بٹھا دیتا ہے۔

کون کس سے بات کرتا ہے، اس کا نقشہ

نتائج ماڈل پر منحصر ہیں — Llama اکثر مختلف برتاؤ کرتا ہے — اور نام رکھنے کا کھیل جان بوجھ کر ایک سادہ کام ہے، جس میں دو لفظ اور پانچ ملاقاتوں کی یادداشت ہے۔ پھر بھی مصنفین یہ نتیجہ نکالتے ہیں کہ کثیر ایجنٹ مصنوعی ذہانت کی حفاظت پرکھنے کے لیے یہ نقشہ بنانا ضروری ہوگا کہ کون کس سے تعامل کرتا ہے، نہ کہ صرف ہر ایجنٹ کو الگ الگ جانچنا۔