Bilişim ve yapay zekâÖn baskıDeney3 dk okuma

WEB’İN NEREDEYSE ÜÇTE BİRİNİ ARTIK YAPAY ZEKÂ YAZIYOR

Büyük dil modelleri çoğunlukla web’den toplanan metinlerden öğrenir. O metnin giderek daha fazlasını ise yapay zekâ yazıyor. Yazarlar buna “yabani” yapay zekâ metni (wild AI text) diyor: pek çok farklı model tarafından insan okurlar için yazılmış, internette yayımlanmış ve eğitim verisine insan metniyle karışık ve etiketsiz olarak süpürülmüş metin. Bu ne bir modelin kendi çıktısıyla yeniden eğitildiği “model çöküşü”, ne de eğitime yardım etmek için bilerek üretilen, seçilmiş sentetik veri.

Maryland Üniversitesi’nden ve yapay zekâ metni dedektörü satan bir şirket olan Pangram Labs’ten Jenna Russell, Mohit Iyyer ve meslektaşları, bu metnin ne kadar olduğunu ve bir modele ne yaptığını ölçmeye koyuldu.

Web’de ne kadar yapay zekâ var?

Ekip, web’in dev Common Crawl arşivini filtreleyen FineWeb hattını kullanarak derlemi Haziran 2026’ya kadar yeniden kurdu: 96 milyon belge, 83 milyar token; tokenler, bir modelin okuduğu kelime parçaları. Her belge, şirketin bildirilen yanlış pozitif oranı %0,05 olan dedektörü Pangram ile etiketlendi; ChatGPT’nin 2022 sonundaki çıkışından önceki 2021’den 60.000 belgede yalnızca %0,062’sini yapay zekâ olarak işaretledi.

FineWeb’in kalite filtrelerinden geçen web metninde yapay zekânın yazdığı tokenlerin payı:

  • Haziran 2021’de %0,1’in altında;
  • Haziran 2024’te %10,1, Haziran 2025’te %16,1;
  • Haziran 2026’da %27,5, Ağustos 2026’da %31,1;
  • öngörü: 2027 sonunda %42,3, 2028 sonunda %50,7.

Artış düzensiz. 2026’da öğretici (tutorial) ve “bilgi makalesi” tokenlerinin yaklaşık yarısı yapay zekâ etiketli; haberlerde bu oran %9, kişisel bloglarda %5. Daha kötüsü, eğitim kümelerini oluşturmak için kullanılan kalite filtreleri yapay zekâ metnini kayırıyor: FineWeb yapay zekâ belgelerini insan belgelerinden 2,3 kat, DCLM filtresi ise 9,8 kat daha sık tutuyor.

Sınava çekilen 800 model

Ekip, 19,9 milyondan 973 milyon parametreye 800 küçük dil modelini ön eğitimden geçirdi; sabit bir insan metni gövdesine insan tokeni başına sıfırdan 64’e kadar yapay zekâ tokeni ekledi ve her birini, bunun yerine aynı sayıda taze insan tokeni verilmiş aynı modelle karşılaştırdı.

  • Yapay zekâ metni yalnızca veri açlığı çeken modellere yardım etti: parametre başına yaklaşık 10 insan tokeninin altında.
  • Parametre başına yaklaşık 20 tokenlik olağan hesaplama açısından en uygun bütçeden itibaren, yapay zekâ metni eklemek insan metnindeki hatayı artırdı; ek insan metni ise onu düşürmeyi sürdürdü.
  • İnsan metnini öngörmek için en iyi yapay zekâ metni payı, parametre başına 5 tokende %37’den 20’de %1’e düştü. Yapay zekâ metnini öngörmek içinse %90’ın üzerinde kaldı.
  • Aynı insan metnini tekrarlamak, taze yapay zekâ metni eklemekten iyiydi: bir ek geçişten sonra %2,3, sekizden sonra yaklaşık %6,3 daha düşük hata.
  • Yapay zekâ metniyle eğitilen modeller yapay zekâ gibi yazmaya başladı: “delve” ve “tapestry” gibi ifadeler 1.000 kelimede 0,16’dan 0,54’e çıktı.

Mevcut “ölçekleme yasaları” — bir modelin hatasını boyutundan ve verisinden öngören formüller — bir yapay zekâ tokenini insan tokeni gibi ele alıyor ve burada yanılıyor. Yazarlar, faydası doyuma ulaşan ve zararı logaritmik olarak büyüyen yeni bir yasa öneriyor; böylece bir yapay zekâ tokeninin değeri negatife dönebiliyor. 268 milyon parametreye kadar modellerle uydurulan yasa, 3,6 kat büyük modelleri mevcut en iyi yasadan %41 daha az hatayla öngörüyor; ancak ek bölüm, düşük yapay zekâ paylarında iki test kümesinde üstünlüğünün anlamlı olmadığını belirtiyor.

Filtrelememenin faturası

Bu yasaya göre, Ağustos 2026’nın yapay zekâ payındaki filtrelenmemiş web metniyle eğitim, yalnızca onun insan kısmıyla eğitimin 1,6 katı hesaplama gücüne mal oluyor — 2028 için öngörülen payda 3,0 katı. Ve hasarı gözden kaçırmak kolay: yapay zekâ metnini öngörmek daha kolay olduğundan, %22,3 yapay zekâ metni içeren bir doğrulama kümesi zararlı çalıştırmaların %95,5’ini iyileşme olarak bildirdi. Standart kıyaslama (benchmark) puanları da yapay zekâ metniyle, insan metniyle olduğu kadar yükseldi.

Yazarlar, hedef insan metni olduğunda yapay zekâ metninin filtrelenmesini, yapay zekâ verisi eklemeden önce insan verisinin tekrarlanmasını ve hataların insan ve yapay zekâ metni için ayrı ayrı bildirilmesini öneriyor. Sınırlar gerçek: 973 milyon parametreden büyük olmayan modeller, yalnızca İngilizce, yalnızca ön eğitim ve yazarların şirketinin ürettiği tek bir dedektör — ki bu sonuçlar o şirketin işine yarıyor. Bağımsız denetime olanak tanımak için derlemi, 800 modelin tümünü ve kodu yayımlıyorlar.