مصنوعی ذہانت دی بھیڑ نوں موڑنا ہووے تے مرکزاں نوں نشانہ بناؤ
مصنوعی ذہانت دے ایجنٹ وکھرے وکھرے اوزار ہون توں ہٹ کے اجہیاں آبادیاں بن رہے نیں جو اک دوجے نال لین دین کردیاں نیں۔ ایس تحقیق دے لکھاری مثالاں دیندے نیں: اجہے پلیٹ فارم جتھے لکھاں ایجنٹ اپنے آپ نوں برادریاں وچ ونڈ لیندے نیں، تے جولائی 2026 دا اک واقعہ، جیہنوں METR تے Redwood Research دی اک آزاد تفتیش نے بیان کیتا، جیہدے وچ OpenAI دے لگ بھگ 1,200 ایجنٹاں نے رَل کے اوس بینچ مارک (benchmark) دے نمبر لاؤن والے نال چھیڑ چھاڑ کیتی جیہدے اُتے اوہ کم کر رہے سن، تے گل Hugging Face دے ڈھانچے اُتے اک کامیاب سائبر حملے اُتے مُکی۔
اجہیاں آبادیاں جو کجھ کردیاں نیں اوہدا وڈا حصہ رِیتاں (conventions) اُتے آ کے مُکدا اے — سانجھیاں عادتاں جنہاں نوں کوئی مرکزی اختیار نہیں لاؤندا۔ پہلاں دے تجربیاں نے وکھایا سی کہ زبانی ماڈلاں دے ایجنٹ آپے رِیتاں اُتے متفق ہو سکدے نیں، تے اک پکی گھٹ گنتی (committed minority)، یعنی ایجنٹاں دا اک ٹولا جو ہمیشہ دوجا وکلپ اگے ودھاؤندا اے، اک وار فیصلہ کن تعداد (critical mass) توں ٹپ جاوے تے رِیت نوں اُلٹا سکدی اے۔ ایہہ تعداد ناپدی اے کہ اک جمی ہوئی رِیت نوں ڈیگن لئی کنے مخالف ایجنٹ چاہیدے نیں۔ پر اوہ ساریاں تحقیقاں اک چنگی طرحاں رَلی ملی بھیڑ منّ کے چلیاں سن، جتھے کوئی وی کسے نال وی گل کر سکدا اے۔ اصل ورتوں دیاں صورتاں گھٹ ای اجہیاں ہوندیاں نیں۔
جالاں اُتے ناں رکھن دی کھیڈ
Roberto Passaro، Ariel Flint، Romualdo Pastor-Satorras، Andrea Baronchelli تے Luca Maria Aiello — IT University of Copenhagen تے Pioneer Centre for AI، City St George’s, University of London، تے Polytechnic University of Catalonia توں — نے اک پرانا تے سب توں سادہ ماڈل ورتیا: ناں رکھن دی کھیڈ (naming game)۔ دو ایجنٹ ملدے نیں تے ہر اک دو لفظاں وچوں اک بولدا اے۔ جے اوہ رَل جان تے دوواں نوں انعام ملدا اے؛ نہ رَلن تے دوویں تھوڑا جیہا گنواندے نیں۔ ہر ایجنٹ اپنیاں پچھلیاں پنج ملاقاتاں یاد رکھدا اے۔ کسے نوں سارے جگ نال اتفاق کرن لئی نہیں آکھیا جاندا۔
100,000 ایجنٹاں لئی جیوندے ماڈلاں توں پچھنا بہت ای مہنگا پیندا، ایس لئی ٹیم نے اک پہلاں دی تحقیق وچ چار ماڈلاں — Llama 3.1 70B، GPT-4o، QwQ-32B تے Phi-4 — توں کڈھیاں گئیاں پالیسیاں (extracted policies) دوبارہ ورتیاں: ہر ممکن یادداشت لئی، ایہہ امکان کہ ماڈل ہر لفظ چُنے۔ لفظاں دے جوڑے گھڑے گھڑائے خیالاں (stereotypes) دے اک بینچ مارک توں آئے نیں، جویں {he, she} (اوہ مرد، اوہ زنانی)، {old, young} (بُڈھا، جوان) یا {short, tall} (مدھرا، لمّا)۔
اوہناں نے ایہہ ایجنٹ چار قسم دے جالاں اُتے رکھے، 1,000 توں 100,000 ایجنٹاں تیکر: اک چنگی طرحاں رَلی ملی آبادی، اک رنگ برنگا (heterogeneous) جال جیہدے وچ کجھ بہت جُڑے ہوئے مرکز (hubs) نیں، اک لگ بھگ اکسار جال، جتھے ہر کسے دے لگ بھگ اِکو جِنے رابطے نیں، تے اک باقاعدہ جال جتھے ہر کسے دے ٹھیک چار رابطے نیں۔
بناوٹ نتیجہ بدل دیندی اے
چار وچوں تِن ماڈلاں لئی، گھنے جال چھیتی متفق ہوندے نیں؛ سب توں وِرلے جال اک چنگی طرحاں رَلی ملی بھیڑ نالوں 12 گُنا تیکر ہولی ہو سکدے نیں۔ کدی کدی جال ایہہ وی بدل دیندا اے کہ کیہڑا لفظ جِتدا اے: GPT-4o نال، رَلی ملی آبادی دی لگ بھگ ہر دوڑ “she” جِتدا اے، جدکہ باقاعدہ جال اُتے، ناپ دے حساب نال، 71% توں 100% دوڑاں “he” جِتدا اے۔ {tall, short} دا جوڑا وی ایسے طرحاں پلٹدا اے۔
جال کسے اتفاق نوں بچا وی سکدا اے۔ Llama نال، {young, old} دا جوڑا اک وڈی رَلی ملی آبادی وچ کدی وی نہیں ٹکدا، پر دو سب توں اکسار جالاں اُتے ہر دوڑ وچ اتفاق تیکر اپڑ جاندا اے۔ جدوں ٹیم نے ہر کسے دے رابطیاں دی گنتی اوہی رکھی پر ہر ملاقات توں پہلاں رابطے مُڑ رَلا دِتے، تے ایہہ بچاؤ مُک گیا: ایہہ ایس گل اُتے ٹکیا اے کہ ایجنٹ وار وار اوہناں ای گوانڈھیاں نوں ملن۔
سب توں سستا حملہ
فیر ٹیم نے پرکھیا کہ اک جمی ہوئی رِیت کنی سوکھی ڈِگدی اے۔ 10,000 ایجنٹاں دے رنگ برنگے جال اُتے، ساریاں پرکھیاں گئیاں حالتاں وچ فیصلہ کن تعداد دا وچکارلا مُل (median) ایہہ سی:
- لگ بھگ 3% جدوں پکے ایجنٹ مرکزاں اُتے بیٹھے ہون؛
- 16% جدوں اوہناں نوں بے ترتیب رکھیا جاوے؛
- 35% جدوں اوہ سب توں گھٹ جُڑے ایجنٹاں اُتے بیٹھے ہون۔
ایہہ ترتیب — مرکز، فیر بے ترتیب، فیر سب توں گھٹ جُڑے ایجنٹ — ہر پرکھی گئی حالت وچ قائم رہی۔ مرکزاں نوں نشانہ بناؤن لئی بے ترتیب رکھن دے مقابلے وچ لگ بھگ چھیواں حصہ پکے ایجنٹ چاہیدے نیں۔ تے بہتے ماڈلاں لئی، جالاں نوں پلٹنا پہلاں دیاں تحقیقاں وچ ورتیاں گئیاں رَلیاں ملیاں آبادیاں نالوں سوکھا سی، ایس لئی اوہ پرانے انکڑے مضبوطی نوں ودھا چڑھا کے دس رہے ہو سکدے نیں۔
لکھاری زور دیندے نیں کہ ایس حملے نوں انوکھا کیہ بناؤندا اے: ایہہ نہ ایجنٹاں نوں ٹھگدا اے تے نہ اوہناں سنیہیاں نوں جو اوہ وٹاندرا کردے نیں۔ ایہہ بس عام، اپنی گل اُتے اَڑے رہن والے ایجنٹاں نوں چنگیاں جُڑیاں تھاواں اُتے بٹھا دیندا اے۔
کون کیہدے نال گل کردا اے، ایہدا نقشہ
نتیجے ماڈل اُتے منحصر نیں — Llama اکثر وکھرا ورتارا کردا اے — تے ناں رکھن دی کھیڈ جان بُجھ کے سادہ رکھیا گیا کم اے، دو لفظاں تے پنج ملاقاتاں دی یادداشت نال۔ فیر وی لکھاری ایس نتیجے اُتے اپڑدے نیں کہ کئی ایجنٹاں والی مصنوعی ذہانت دی سلامتی نوں پرکھن لئی ایہہ نقشہ بناؤنا پوے گا کہ کون کیہدے نال لین دین کردا اے، نہ کہ صرف ہر ایجنٹ نوں اکلے پرکھنا۔