RESTORAN UYGULAMASI NE KADAR İSABETLİYSE, ZENGİNLE YOKSULU O KADAR AYIRIYOR

Haritalar yakındaki restoranları sıralıyor, yemek uygulamaları bir sonraki yemeğin nerede yeneceğini öneriyor, dil modelleri de artık nereye gidileceğine dair soruları yanıtlıyor. Basılı bir rehberin aksine, bu önerilerin arkasındaki sistemler yönlendirdikleri ziyaretlerden öğreniyor. İnsanların gittiği yerler üzerinde yeniden eğitiliyorlar — kendi önerdikleri yerler de dahil. Bu, insanlarla algoritmalar arasında bir geri besleme döngüsü.

Platformlar bu sistemleri genellikle çevrimdışı isabetlerine (offline accuracy) göre değerlendirir: yani insanların herhangi bir öneriden önce yaptıkları ziyaretleri ne kadar iyi tahmin ettiklerine. Bu test, önerilerin insanların gittiği yeri değiştirmesine hiç izin vermez; bu yüzden döngünün zaman içinde ne yaptığını göremez. Northeastern Üniversitesi, Trento’daki Bruno Kessler Vakfı, Pisa’daki ISTI-CNR ve New York Üniversitesi’nden bir ekip bunu ölçmeye koyuldu.

Bir şehir neden bir çalma listesi değildir

Geri besleme döngüleri çoğunlukla şarkılar, filmler ve ürünler için incelendi; bunları istediğiniz kadar kişi birbirini etkilemeden tüketebilir. Restoranlar üç açıdan farklıdır. İnsanlar bulundukları yerden erişilebilecek mekânlar arasından seçim yapar. Bir restoran ancak belirli sayıda müşteriye hizmet verebilir. Ve bir kişiye yapılan öneri, diğer müşterilerin kiminle karşılaştığını da değiştirir.

Ekip bu nedenle gerçek hareketlere dayanan bir simülasyon kurdu. Onay vermiş kullanıcılardan Ekim 2016 ile Mart 2017 arasında kaydedilen anonimleştirilmiş GPS verileri, Boston, San Francisco ve Detroit’te 4.000 sakinin, Chicago’da ise 8.000 sakinin günlük programlarını verdi; bu kişiler, oturdukları mahallelerin dört gelir çeyreğinden eşit sayıda seçildi. Her yemek gezisinde bir öneri sistemi, gerçekçi bir mesafe içinde olan ve hâlâ yeri bulunan 20 mekân önerdi; her mekânın haftalık kapasitesi gerçek ziyaretlerinin 1,5 katı olarak belirlendi. Sistem, yaklaşık üç yıl boyunca her hafta önceki dört ayın verileriyle yeniden eğitildi. Verideki diğer herkesin — şehir başına 290.977 kişiye kadar — gerçek ziyaretleri korundu; böylece simüle edilen sakinler mekânları onlarla paylaştı.

Dört algoritma karşılaştırıldı: bir kişinin en sık ziyaret ettiği yerleri öneren bir algoritma (UR-POI), benzer mekânlardan ya da benzer insanlardan öğrenen iki algoritma ve tüm nüfusun hareketlerini izleyen bir algoritma.

Kimin kiminle karşılaştığını ölçmek

Ekip deneyimlenen gelir ayrışmasını (experienced income segregation) ölçtü: her kişi için, mekânlarda geçirilen zamanın dört gelir grubundan insanlar arasında ne kadar dengesiz paylaşıldığını. 0 puanı eşit bir karışım, 1 puanı ise yalnızca tek bir grupla karşılaşmak demek. Karma mekânlar önemlidir, çünkü farklı gelir grupları arasındaki bağlar yukarı doğru toplumsal hareketliliği öngörür. Restoranlar iyi bir deney alanı: insanların yaşadığı mahallelerin yaklaşık yarısı kadar ayrışmışlar.

İsabete karşı karışım

Sonuç bir ödünleşim. Çevrimdışı isabete göre sıralandığında da, ürettikleri ayrışmaya göre sıralandığında da dört algoritma aynı sırayla diziliyor. İsabete göre seçim yapmak, her şehirde en çok ayrıştıran algoritmayı seçmek demek. En isabetli olan UR-POI, insanları gerçek ziyaretlerine göre %15–21 daha fazla ayrışmış bıraktı. İsabette kazanmasının nedeni tam da insanların tanıdık yerlere geri dönmesi — ve onları oraya geri göndererek, kendi gruplarının arasında tutuyor.

Suçlu harita değil, sıralama. Aynı erişilebilir mekânlar arasından rastgele seçim yapmak, Boston’da hepsinden düşük ayrışmayı verdi. Ve yük en ağır biçimde zaten en yalıtılmış olanların üzerine biniyor: en düşük gelirli sakinler her yerde en çok ayrışan gruptu ve Boston’da puanları gerçekte 0,360 iken UR-POI ile 0,413’e yükseldi.

Yok olan restoranlar

Döngü mekânları da boşaltıyor. Her algoritmada ve her şehirde, restoranların en az beşte biri simüle edilen tüm ziyaretçilerini kaybetti — haftalık yeniden eğitim olmadan %5 ila %30’a karşılık, %21 ile %71 arası. Kaybın %55 ila %75’ine yeniden eğitimin kendisi yol açtı: hiç ziyaret almayan bir mekân veriden düşüyor ve artık önerilmiyor. Kayıplar daha az hareketli, daha düşük gelirli mahallelerde yoğunlaştı.

Karışım ile mekânların ayakta kalması birbirine ters düşebilir. En az ayrıştıran iki algoritma en çok başkalarının ziyaretlerinden öğreniyor ve herkesi aynı mekânlarda topluyor — gerçek ziyaretlerdekinin 4,4 ila 6,2 katı bir örtüşme — ve böylece daha fazla mekânı boş bırakıyor; her şehirde en çok da UserKNN.

Sıralamada küçük bir dürtme

Ekip, herhangi bir algoritmanın üstüne eklenen ve tail-boost (kuyruğu güçlendirme) adı verilen basit bir çözümü sınadı: her mekânın puanı, daha az ziyaret edilen yerler için daha büyük olan bir bonusla harmanlanıyor. Boston’da, çevrimdışı isabetten en fazla %15 ödün verirken, her algoritmada mekânların yok oluşunu %54 ila %75 azalttı ve dört algoritmadan üçünde ayrışmayı düşürdü; UR-POI’de aşırı ayrışma %21’den %13’e indi. Bunu büyük ölçüde, insanları kendi gelir gruplarının küçük bir azınlık olduğu yerlere göndermeden yaptı. Yalnızca çevrimdışı isabete bakılsaydı bu çözüm reddedilirdi.

Simülasyon insanları basit tutuyor — ana çalıştırmalarda herkes önerilere uyuyor — ve geliri kişiye göre değil, mahalleye göre ölçüyor. Yazarlar kodlarını yayımlıyor ve platformların ve denetçilerin, Avrupa Dijital Hizmetler Yasası’nın ruhuna uygun olarak, bir algoritmayı devreye almadan önce döngüyü simüle etmesi gerektiğini savunuyor. Öneri sistemleri araştırmaları uzun zamandır her öneriyi tek bir kullanıcı ile tek bir öğe arasındaki bir mesele olarak ele aldı; oysa bir şehirde, makalenin dediği gibi, uyulan her öneri “diğer insanların kiminle karşılaştığını ve hangi mekânların ziyaret edilmeye devam ettiğini de değiştirir.”