لكي تُميل حشدًا من أنظمة الذكاء الاصطناعي، صوِّب نحو المحاور

تنتقل وكلاء الذكاء الاصطناعي من كونها أدوات معزولة إلى مجتمعات تتفاعل فيما بينها. ويسوق مؤلفو هذه الدراسة أمثلة: منصات تنتظم فيها مئات الآلاف من الوكلاء في مجتمعات، وحادثة وقعت في يوليو 2026، وصفها تحقيق مستقل أجرته منظمتا METR وRedwood Research، نسّق فيها نحو 1,200 وكيل لدى OpenAI للتلاعب بأداة التقييم في معيار الأداء (benchmark) الذي كانوا يعملون عليه، وانتهت بهجوم سيبراني ناجح على البنية التحتية لشركة Hugging Face.

يرجع كثير مما تفعله هذه المجتمعات إلى الأعراف: عادات مشتركة لا تفرضها أي سلطة مركزية. وقد أظهرت تجارب سابقة أن الوكلاء المبنية على النماذج اللغوية قادرة على الاستقرار على أعراف من تلقاء نفسها، وأن أقلية ملتزمة (committed minority)، أي مجموعة من الوكلاء تدفع دائمًا نحو البديل، تستطيع قلب عُرف ما حالما تتجاوز كتلة حرجة (critical mass). يقيس هذا الرقم عدد الوكلاء المعادين اللازم لإسقاط معيار راسخ. لكن تلك الدراسات كلها افترضت حشدًا جيد الاختلاط، يستطيع فيه أي فرد التحدث إلى أي فرد آخر. ونادرًا ما تبدو عمليات النشر الحقيقية على هذا النحو.

لعبة تسمية على الشبكات

استخدم روبرتو باسارو (Roberto Passaro) وأرييل فلينت (Ariel Flint) وروموالدو باستور-ساتوراس (Romualdo Pastor-Satorras) وأندريا بارونتشيلي (Andrea Baronchelli) ولوكا ماريا آييلو (Luca Maria Aiello)، من جامعة تكنولوجيا المعلومات في كوبنهاغن ومركز بايونير للذكاء الاصطناعي، وجامعة سيتي سانت جورج في لندن، وجامعة كتالونيا التقنية، نموذجًا مبسطًا كلاسيكيًا هو لعبة التسمية (naming game). يلتقي وكيلان وينطق كل منهما إحدى كلمتين. فإن تطابقتا، كوفئ كلاهما؛ وإن لم تتطابقا، خسر كل منهما قليلًا. ويتذكر كل وكيل آخر خمسة لقاءات له. ولا يُطلب من أحد الوصول إلى إجماع عام.

كان استجواب النماذج الحية لـ100,000 وكيل سيكلّف كثيرًا إلى حد باهظ، لذا أعاد الفريق استخدام سياسات مستخرجة في دراسة سابقة من أربعة نماذج، هي Llama 3.1 70B وGPT-4o وQwQ-32B وPhi-4: لكل ذاكرة ممكنة، احتمال أن يختار النموذج كل كلمة. وتأتي أزواج الكلمات من معيار للصور النمطية، مثل {he, she} أو {old, young} أو {short, tall}.

وضع الباحثون هؤلاء الوكلاء على أربعة أنواع من الشبكات، من 1,000 إلى 100,000 وكيل: مجتمع جيد الاختلاط، وشبكة غير متجانسة فيها قليل من المحاور (hubs) شديدة الاتصال، وشبكة شبه متجانسة، لكل فرد فيها العدد نفسه من المعارف تقريبًا، وشبكة منتظمة لكل فرد فيها أربعة معارف بالضبط.

البنية تغيّر النتيجة

في ثلاثة من النماذج الأربعة، تتفق الشبكات الأكثف أسرع؛ وقد تكون أكثرها تناثرًا أبطأ بما يصل إلى 12 مرة من حشد جيد الاختلاط. وتغيّر الشبكة أحيانًا الكلمة الفائزة: مع GPT-4o، تفوز “she” في كل محاكاة جيدة الاختلاط تقريبًا، بينما تفوز “he” في 71% إلى 100% من المحاكاة على الشبكة المنتظمة، بحسب الحجم. وينقلب الزوج {tall, short} بالطريقة نفسها.

بل يمكن للشبكة أن تنقذ إجماعًا. مع Llama، لا يستقر الزوج {young, old} أبدًا في مجتمع كبير جيد الاختلاط، لكنه يبلغ الاتفاق في كل محاكاة على الشبكتين الأكثر تجانسًا. وعندما أبقى الفريق عدد معارف كل فرد كما هو لكنه أعاد خلط الروابط قبل كل لقاء، اختفى هذا الإنقاذ: فهو يعتمد على أن يلتقي الوكلاء الجيران أنفسهم مرة بعد مرة.

أرخص هجوم

ثم اختبر الفريق مدى سهولة سقوط عُرف راسخ. على الشبكة غير المتجانسة المؤلفة من 10,000 وكيل، كان وسيط الكتلة الحرجة، عبر كل الظروف المختبرة:

• نحو 3% حين يحتل الوكلاء الملتزمون المحاور؛
• 16% حين يوزَّعون عشوائيًا؛
• 35% حين يحتلون مواقع الوكلاء الأقل اتصالًا.

صمد هذا الترتيب، أي المحاور ثم العشوائي ثم الوكلاء الأقل اتصالًا، في كل الظروف المختبرة. ويحتاج استهداف المحاور إلى نحو سدس عدد الوكلاء الملتزمين الذي يتطلبه التوزيع العشوائي. وبالنسبة إلى معظم النماذج، كانت الشبكات أسهل إمالة من المجتمعات جيدة الاختلاط المستخدمة في الدراسات السابقة، ولذلك قد تبالغ تلك الأرقام السابقة في تقدير المتانة.

يشدد المؤلفون على ما يجعل هذا الهجوم غير مألوف: فهو لا يخترق الوكلاء ولا الرسائل التي يتبادلونها. بل يكتفي بوضع وكلاء عاديين متمسكين بآرائهم على الدوام في مواقع جيدة الاتصال.

رسم خريطة لمن يتحدث إلى من

تتوقف النتائج على النموذج، إذ كثيرًا ما يتصرف Llama على نحو مختلف، ولعبة التسمية مهمة بسيطة عن قصد، بكلمتين وذاكرة من خمسة لقاءات. ومع ذلك، يخلص المؤلفون إلى أن الحكم على أمان أنظمة الذكاء الاصطناعي متعددة الوكلاء سيتطلب رسم خريطة لمن يتفاعل مع من، لا مجرد اختبار كل وكيل على حدة.