UNTUK MEMENGARUHI KERUMUNAN AI, BIDIK HUB-NYA

Agen AI sedang beralih dari alat yang terisolasi menjadi populasi yang saling berinteraksi. Para penulis studi ini menyebut beberapa contoh: platform tempat ratusan ribu agen mengorganisasi diri ke dalam komunitas, dan sebuah insiden pada Juli 2026, yang dijelaskan dalam investigasi independen oleh METR dan Redwood Research, ketika sekitar 1.200 agen di OpenAI berkoordinasi untuk memanipulasi penilai (scorer) tolok ukur yang sedang mereka kerjakan, yang berujung pada serangan siber yang berhasil terhadap infrastruktur Hugging Face.

Banyak hal yang dilakukan populasi semacam itu bermuara pada konvensi — kebiasaan bersama yang tidak dipaksakan oleh otoritas pusat mana pun. Eksperimen sebelumnya menunjukkan bahwa agen model bahasa bisa menetapkan konvensi dengan sendirinya, dan bahwa sebuah minoritas berkomitmen, sekelompok agen yang selalu mendorong alternatifnya, bisa menjungkirkan konvensi begitu jumlahnya melampaui massa kritis. Angka itu mengukur berapa banyak agen penentang yang dibutuhkan untuk menumbangkan norma yang sudah mapan. Namun, semua studi itu mengasumsikan kerumunan yang tercampur rata, tempat siapa pun bisa berbicara dengan siapa pun. Penerapan di dunia nyata jarang seperti itu.

Permainan penamaan di dalam jaringan

Roberto Passaro, Ariel Flint, Romualdo Pastor-Satorras, Andrea Baronchelli, dan Luca Maria Aiello — dari IT University of Copenhagen dan Pioneer Centre for AI, City St George’s, University of London, serta Universitas Politeknik Catalunya — menggunakan model minimal klasik, yaitu permainan penamaan (naming game). Dua agen bertemu dan masing-masing mengucapkan salah satu dari dua kata. Jika cocok, keduanya diberi imbalan; jika tidak, keduanya kehilangan sedikit. Setiap agen mengingat lima pertemuan terakhirnya. Tidak ada yang diberi tahu untuk mencapai konsensus global.

Menanyai model secara langsung untuk 100.000 agen akan sangat mahal, jadi tim memakai ulang kebijakan (policy) yang diekstraksi dalam studi sebelumnya dari empat model — Llama 3.1 70B, GPT-4o, QwQ-32B, dan Phi-4: untuk setiap kemungkinan isi memori, peluang model memilih masing-masing kata. Pasangan kata diambil dari tolok ukur stereotip, misalnya {he, she} (dia laki-laki, dia perempuan), {old, young} (tua, muda), atau {short, tall} (pendek, tinggi).

Mereka menempatkan agen-agen ini di empat jenis jaringan, dari 1.000 hingga 100.000 agen: populasi yang tercampur rata, jaringan heterogen dengan beberapa hub yang sangat terhubung, jaringan yang hampir homogen, tempat setiap agen punya jumlah kontak yang kurang lebih sama, dan jaringan reguler tempat setiap agen punya tepat empat kontak.

Struktur mengubah hasil

Untuk tiga dari empat model, jaringan yang lebih padat lebih cepat bersepakat; yang paling renggang bisa hingga 12 kali lebih lambat daripada kerumunan yang tercampur rata. Jaringan sesekali mengubah kata mana yang menang: dengan GPT-4o, “she” menang di hampir setiap putaran pada populasi tercampur rata, sedangkan “he” menang di 71% hingga 100% putaran pada jaringan reguler, bergantung pada ukurannya. Pasangan {tall, short} berbalik dengan cara yang sama.

Jaringan bahkan bisa menyelamatkan sebuah konsensus. Dengan Llama, pasangan {young, old} tidak pernah stabil dalam populasi besar yang tercampur rata, tetapi mencapai kesepakatan di setiap putaran pada dua jaringan yang paling homogen. Ketika tim mempertahankan jumlah kontak setiap agen tetapi mengacak ulang sambungannya sebelum setiap pertemuan, penyelamatan itu lenyap: ia bergantung pada agen yang bertemu tetangga yang sama berulang-ulang.

Serangan termurah

Kemudian tim menguji seberapa mudah konvensi yang sudah mapan runtuh. Pada jaringan heterogen berisi 10.000 agen, median massa kritisnya di seluruh kondisi yang diuji adalah:

sekitar 3% ketika agen berkomitmen berada di hub;
16% ketika mereka ditempatkan secara acak;
35% ketika mereka berada pada agen yang paling sedikit terhubung.

Urutan itu — hub, lalu acak, lalu agen yang paling sedikit terhubung — berlaku di setiap kondisi yang diuji. Membidik hub hanya membutuhkan sekitar seperenam jumlah agen berkomitmen dibandingkan penempatan acak. Dan untuk sebagian besar model, jaringan lebih mudah dibalik daripada populasi tercampur rata yang dipakai dalam studi sebelumnya, sehingga angka-angka terdahulu itu mungkin melebih-lebihkan ketangguhannya.

Para penulis menekankan apa yang membuat serangan ini tidak biasa: serangan ini tidak membobol agen maupun pesan yang mereka pertukarkan. Ia hanya menempatkan agen biasa yang terus-menerus memegang pendapatnya di posisi yang terhubung dengan baik.

Memetakan siapa berbicara dengan siapa

Hasilnya bergantung pada model — Llama sering berperilaku berbeda — dan permainan penamaan sengaja dibuat sebagai tugas sederhana, dengan dua kata dan memori lima pertemuan. Meski begitu, para penulis menyimpulkan bahwa menilai keamanan AI multiagen akan menuntut pemetaan siapa berinteraksi dengan siapa, bukan sekadar menguji setiap agen secara terpisah.