Komputasi & AI · eksperimennya
Pertahankan sebagian pembelajar
Model-model bahasa yang diberi makan tulisan mereka sendiri, sebuah paradoks dari evolusi budaya, orang-orang yang bertanya alih-alih mencari tahu sendiri. Empat pertanyaan, dari pemula hingga mahir, tentang siapa yang membayar pengetahuan yang disalin model.
1 · Nyatakan paradoks Rogers
Pemula
Apa kata paradoks Rogers tentang populasi tempat kebiasaan menyalin menyebar?
2 · Hitung tingkat stabilnya
Aturannya: pengetahuan yang dipertahankan pada kesetimbangan q* = (1 − ρ) / (1 − ρ(1 − u)), dengan ρ porsi sintetis dari data latih dan u peluang sepotong pengetahuan yang disalin hilang per generasi. Untuk Darwin, u = 0,15.
Menengah
Dengan separuh data segar (ρ = 0,5), berapa porsi pengetahuan langka yang dipertahankan garis keturunan itu?
3 · Temukan akurasi model
Dalam model makalah itu, mencari tahu sebuah fakta sendiri berbiaya c = 0,3, dari imbalan sebesar 1. Bertanya kepada AI gratis, tetapi hanya benar sesering AI itu benar. Orang beralih ke pilihan mana pun yang memberi imbalan lebih besar.
Mahir
Pada kesetimbangan, seberapa sering AI benar ketika orang menggunakannya?
4 · Hitung pembelajar yang dibutuhkan
Porsi orang yang harus terus belajar sendiri tumbuh sebanding dengan 1/(1 − s), dengan s porsi teks latih yang ditulis oleh model-model itu sendiri.
Mahir
Jika s naik dari 0 menjadi 0,5, apa yang terjadi pada porsi pembelajar itu?
Pembelajar dipertahankan
—