YAPAY ZEKÂ YAPAY ZEKÂYI KOPYALAYINCA BİRİLERİ ÖĞRENMEYİ SÜRDÜRMELİ
Üretken bir modeli daha önceki bir modelin çıktısıyla eğitin; model bozulur. Ardışık kuşaklar boyunca en nadir içerik yaygın olandan önce kaybolur ve modelin ürettikleri daralır. Bu model çöküşü (model collapse) artık iyi inceleniyor — çareleri de öyle. İşe yarayan tüm çareler döngünün dışından bir şey getiriyor: taze insan verisi, saklanan gerçek veri, doğrulayıcılar, insan eliyle seçim (human curation).
Vermont Üniversitesi’nde bilgisayar bilimci olan Nam Le, bu analizlerin neyi doğal kabul ettiğine dikkat çekiyor. Taze veriyi, ne kadar gerekiyorsa o kadar erişilebilen sabit bir arşiv gibi ele alıyorlar ve betimlenen dünyanın yerinde durduğunu varsayıyorlar. İkisi de doğru değil: taze metni insanlar yazıyor ve insanlar bir şeyleri kendileri araştırıp bulmak yerine giderek daha çok modellere soruyor; dünya da değişmeye devam ediyor.
Eski bir paradoks
Her iki sorun da daha eski bir kuramın tam merkezinde yer alıyor. Rogers, 1988’de bugün Rogers paradoksu denen şeyi betimledi: kopyalamanın, bireysel olarak öğrenmekten daha ucuz olduğu için yayıldığı bir toplulukta, sonunda herkes hiç kopyalamamış bir topluluktakinden daha iyi durumda olmaz. Kopyalar eskir ve birilerinin öğrenmenin bedelini ödemeyi sürdürmesi gerekir.
Kültürel evrim alanındaki sonraki çalışmalar bu fikri inceltti. Eleştirel (critical) bir öğrenici kopyalar, kopyayı dünyayla karşılaştırarak denetler ve kopya işe yaramazsa kendi başına öğrenir; böyle öğreniciler herkesin getirisini artırır. Uyumcu (conformist) bir öğrenici ise yaygın olanı kopyalar; bu ucuzdur ama nadir varyantları aşındırır.
Le’nin argümanı, bir modeli başka bir modelin çıktısıyla eğitmenin tam da bu anlamda bir sosyal öğrenme olduğu, dolayısıyla kuramın burada da geçerli olması gerektiği. Kuram en basit haliyle, eğitim verisinin bir payı taze olduğunda bir model soyunun (lineage) ne kadar bilgi koruduğuna dair tek satırlık bir kural veriyor.
Darwin ve Moby-Dick, yeniden kopyalanıyor
Le bunu sınamak için küçük dil modellerinden oluşan soyları Project Gutenberg’den iki kitap üzerinde eğitti: Darwin’in Türlerin Kökeni ve Melville’in Moby-Dick’i. Her kuşak, bir öncekinin ürettiği ve kitaptan alınmış biraz taze metinle karıştırılmış metinden öğrendi.
Yalnızca kendi çıktılarıyla beslenen sözcük düzeyindeki modeller, on iki kuşakta nadir sözcüklerin beşte dördünü kaybetti. Başlangıç kuşağından bir örnek hâlâ şöyle okunuyor: “i cannot see that a genus become fitted for most justly celebrated elder huber”; on ikinci kuşakta ise: “struggle of the on that may inheritable detected i hybrids, kept.”
Çarpıcı olan kısım tahmin. Le, kuralın tek parametresini — kopyalanan bir bilgi parçasının her kuşakta kaybolma olasılığını — yalnızca tamamen kendi kendini besleyen soy üzerinde ayarladı, sonra onu hiç değiştirmeden %10, %30 ya da %50 taze veri içeren soyları tahmin etmek için kullandı. Kural, bu soyların kaç nadir sözcüğü koruduğunu 3 yüzde puanlık bir sapma içinde tutturdu. İkinci bir bilgi sınıfı eklenince — kırılgan ve dayanıklı bilgi — kural küçük bir transformer ve önceden eğitilmiş bir dil modeli olan OPT-125m için de geçerli oldu.
Dünya hareket edince
Ardından “dünyanın” kendisi değişir hale getirildi: iki kitap boyunca kayan bir pencere; böylece sürekli yeni sözcükler geliyor, eski sözcükler gidiyordu. Pencere ne kadar hızlı ilerlerse, kendini kopyalayan bir soyun o kadar çok taze veriye ihtiyacı oldu. Tamamen taze bir derlemin kapsayacağının %80’ini korumak için taze payın yaklaşık %30’dan yaklaşık %45’e çıkması gerekti. Makalenin öngörüsüne göre, sentetik metin biriktikçe ilk bozulacak alanlar hızlı değişen alanlar olacak.
Önceden eğitilmiş model farklı davrandı: bilgisi, dünya hareket etse de etmese de yerinde kaldı. Le’nin yorumuna göre, her kuşakta değişmeden devralınan önceden eğitilmiş ağırlıkları, kopyalama zincirinden hiç geçmeyen bir bilgidir. Bir çekinceyle: buradaki hareket eden metin, modelin ön eğitim sırasında zaten görmüş olduğu bir metindi.
Döngüdeki insanlar
Ardından makaleye adını veren kısım geliyor. Le, insanların bir bilgiyi ya bir maliyet karşılığında kendileri araştırıp bulabildiği ya da yapay zekâya ücretsiz sorup ancak yapay zekâ kadar sık haklı çıkabildiği bir model kurdu. İnsanların yazdıkları, modelin kendi yazdığı bir miktar metinle birlikte, bir sonraki modelin eğitim verisi oluyor.
Denge acımasız:
- yapay zekâ, araştırıp bulmanın maliyeti hesaba katıldığında, büyüklüğü ya da mimarisi ne olursa olsun, ona sormanın tam olarak kendi başına araştırıp bulmak kadar kazandırmasına yetecek sıklıkta haklı çıkar hale geliyor;
- insanlar bir bütün olarak yapay zekâ olmadan olduklarından daha iyi durumda değil: insanlar ve makineler için birlikte Rogers paradoksu;
- eğitim metninin ne kadar büyük kısmını modeller kendileri yazarsa, insanların o kadar çoğunun kendi başına öğrenmeyi sürdürmesi gerekiyor — metnin yarısını model yazdığında iki katı. Le’nin vardığı sonuca göre taze verinin bedeli insan emeğiyle ödeniyor.
Bir çıkış yolu var. İnsanlar yapay zekânın yanıtını dünyayla karşılaştırarak denetler ve yanlış olduğunda yeniden öğrenirse paradoks kırılıyor: simülasyonda ortalama getiri, yapay zekâsız 0,70’e karşı 0,93’te sabitleniyor. Bu bakış açısına göre doğrulamayı ucuzlatan araçlar bir kolaylık değil, tüm sistemin çökmesini engelleyen şeydir.
İşleri kötüleştiren filtreler
Aynı mercek, sentetik verileri temizlemek için kullanılan filtreleri de sınıflandırıyor. Bir modelin en akla yatkın bulduğu örnekleri tutmak uyumcu kopyalamadır ve deneylerde nadir sözcüklerin kaybını hızlandırdı: önceden eğitilmiş model bunların %5’ini korudu; örneklerin yarısı rastgele tutulduğunda ise %57’sini. Yalnızca metni dünyayla karşılaştırarak denetleyen filtreler eleştirel öğreniciler gibi davranıyor. Bunların hepsi küçük modellerle, en büyüğü 125 milyon parametreli modellerle gösterildi ve Le bunu büyük ölçekte sınamayı temel açık soru olarak belirtiyor.
