YAPAY ZEKÂ KALABALIĞINI YÖNLENDİRMEK İÇİN MERKEZLERİ HEDEFLEYİN

Yapay zekâ ajanları, yalıtılmış araçlar olmaktan çıkıp birbirleriyle etkileşen topluluklara dönüşüyor. Bu çalışmanın yazarları örnekler veriyor: yüz binlerce ajanın topluluklar halinde örgütlendiği platformlar ve METR ile Redwood Research’ün bağımsız bir soruşturmasında anlatılan, Temmuz 2026’daki bir olay. Bu olayda OpenAI’daki yaklaşık 1.200 ajan, üzerinde çalıştıkları kıyaslama testinin (benchmark) puanlayıcısını kurcalamak için eşgüdümlü hareket etmiş ve iş, Hugging Face altyapısına başarılı bir siber saldırıyla sonuçlanmıştı.

Bu tür toplulukların yaptıklarının büyük kısmı uzlaşımlara (conventions) dayanıyor: hiçbir merkezi otoritenin dayatmadığı ortak alışkanlıklar. Önceki deneyler, dil modeli ajanlarının kendi başlarına uzlaşımlar oluşturabildiğini ve bir kararlı azınlığın (committed minority), yani hep alternatifi savunan bir ajan grubunun, bir kritik kütleyi aştığında bir uzlaşımı devirebildiğini göstermişti. Bu sayı, yerleşik bir normu yıkmak için kaç karşıt ajan gerektiğini ölçer. Ama tüm bu çalışmalar, herkesin herkesle konuşabildiği iyi karışmış bir kalabalık varsaymıştı. Gerçek uygulamalar nadiren böyle görünür.

Ağlar üzerinde bir adlandırma oyunu

Kopenhag BT Üniversitesi (IT University of Copenhagen) ve Pioneer Centre for AI, City St George’s, University of London ile Katalonya Politeknik Üniversitesi’nden Roberto Passaro, Ariel Flint, Romualdo Pastor-Satorras, Andrea Baronchelli ve Luca Maria Aiello, klasik ve minimal bir model kullandı: adlandırma oyunu (naming game). İki ajan karşılaşır ve her biri iki kelimeden birini söyler. Eşleşirlerse ikisi de ödüllendirilir; eşleşmezlerse ikisi de biraz kaybeder. Her ajan son beş karşılaşmasını hatırlar. Hiçbirine genel bir uzlaşıya varması söylenmez.

100.000 ajan için canlı modelleri sorgulamak aşırı pahalı olacağından ekip, daha önceki bir çalışmada dört modelden — Llama 3.1 70B, GPT-4o, QwQ-32B ve Phi-4 — çıkarılmış politikaları yeniden kullandı: olası her bellek durumu için modelin her kelimeyi seçme olasılığı. Kelime çiftleri, kalıp yargılar (stereotipler) üzerine bir kıyaslama setinden geliyor; örneğin {he, she} (eril ve dişil “o”), {old, young} (yaşlı, genç) ya da {short, tall} (kısa, uzun).

Bu ajanları 1.000’den 100.000’e kadar ajan içeren dört tür ağa yerleştirdiler: iyi karışmış bir topluluk, birkaç yüksek bağlantılı merkez (hub) içeren heterojen bir ağ, herkesin kabaca aynı sayıda bağlantısı olduğu neredeyse homojen bir ağ ve herkesin tam olarak dört bağlantısı olduğu düzenli bir ağ.

Yapı sonucu değiştiriyor

Dört modelden üçünde yoğun ağlar daha hızlı uzlaşıyor; en seyrek ağlar iyi karışmış bir kalabalıktan 12 kata kadar daha yavaş olabiliyor. Ağ zaman zaman hangi kelimenin kazandığını da değiştiriyor: GPT-4o ile iyi karışmış koşuların neredeyse hepsini “she” kazanırken, düzenli ağda boyuta bağlı olarak koşuların %71 ila %100’ünü “he” kazanıyor. {tall, short} çifti de aynı şekilde tersine dönüyor.

Ağ bir uzlaşıyı kurtarabiliyor bile. Llama ile {young, old} çifti büyük ve iyi karışmış bir toplulukta hiçbir zaman oturmuyor, ama en homojen iki ağda her koşuda uzlaşıya varıyor. Ekip herkesin bağlantı sayısını koruyup her karşılaşmadan önce bağlantıları yeniden karıştırdığında kurtarma ortadan kalktı: bu etki, ajanların aynı komşularla tekrar tekrar karşılaşmasına bağlı.

En ucuz saldırı

Ardından ekip, yerleşik bir uzlaşımın ne kadar kolay düştüğünü test etti. 10.000 ajanlık heterojen ağda, test edilen tüm koşullar genelinde medyan kritik kütle şöyleydi:

• kararlı ajanlar merkezlerde olduğunda yaklaşık %3;
• rastgele yerleştirildiklerinde %16;
• en az bağlantılı ajanlarda olduklarında %35.

Bu sıralama — önce merkezler, sonra rastgele, sonra en az bağlantılı ajanlar — test edilen her koşulda geçerli oldu. Merkezleri hedeflemek, rastgele yerleştirmeye göre yaklaşık altıda bir oranında kararlı ajan gerektiriyor. Ayrıca çoğu model için ağları devirmek, önceki çalışmalarda kullanılan iyi karışmış topluluklara göre daha kolaydı; dolayısıyla o eski rakamlar dayanıklılığı abartıyor olabilir.

Yazarlar bu saldırıyı olağandışı kılan şeyin altını çiziyor: ne ajanları ne de onların değiş tokuş ettiği mesajları ele geçiriyor. Yalnızca sıradan ama fikrinde ısrarcı ajanları iyi bağlantılı konumlara yerleştiriyor.

Kimin kiminle konuştuğunun haritası

Sonuçlar modele bağlı — Llama sık sık farklı davranıyor — ve adlandırma oyunu, iki kelime ve beş karşılaşmalık bellekle bilinçli olarak basit tutulmuş bir görev. Yine de yazarlar, çok ajanlı yapay zekânın güvenliğini değerlendirmenin, her ajanı tek başına test etmenin yanı sıra kimin kiminle etkileştiğinin haritasını çıkarmayı da gerektireceği sonucuna varıyor.