SEMAKIN AKURAT APLIKASI RESTORAN, SEMAKIN TERPISAH KAYA DAN MISKIN

Peta mengurutkan restoran di sekitar, aplikasi makanan menyarankan tempat makan berikutnya, dan model bahasa kini menjawab pertanyaan tentang tujuan bepergian. Berbeda dengan buku panduan cetak, sistem di balik saran-saran ini belajar dari kunjungan yang mereka arahkan. Sistem itu dilatih ulang berdasarkan tempat yang didatangi orang — termasuk tempat-tempat yang direkomendasikannya sendiri. Itulah lingkaran umpan balik (feedback loop) antara manusia dan algoritma.

Platform biasanya menilai sistem-sistem ini dari akurasi luring (offline accuracy): seberapa baik sistem itu memprediksi kunjungan yang dilakukan orang sebelum ada rekomendasi apa pun. Uji itu tidak pernah membiarkan saran-saran tersebut mengubah tujuan orang, sehingga tidak dapat melihat apa yang dilakukan lingkaran itu dari waktu ke waktu. Sebuah tim dari Northeastern University, Bruno Kessler Foundation di Trento, ISTI-CNR di Pisa, dan New York University berupaya mengukurnya.

Mengapa kota bukan daftar putar

Lingkaran umpan balik selama ini sebagian besar dikaji untuk lagu, film, dan produk, yang dapat dikonsumsi oleh berapa pun banyaknya orang tanpa saling memengaruhi. Restoran berbeda dalam tiga hal. Orang memilih di antara tempat-tempat yang terjangkau dari posisi mereka. Sebuah restoran hanya dapat melayani pelanggan dalam jumlah terbatas. Dan rekomendasi kepada satu orang juga mengubah siapa yang dijumpai pelanggan lain.

Karena itu, tim membangun sebuah simulasi berdasarkan pergerakan nyata. Data GPS anonim dari pengguna yang memberikan persetujuan, yang direkam antara Oktober 2016 dan Maret 2017, memberikan jadwal harian 4.000 penduduk di Boston, San Francisco, dan Detroit serta 8.000 di Chicago, yang diambil dalam jumlah sama dari keempat kuartil pendapatan lingkungan tempat tinggal mereka. Pada setiap perjalanan untuk makan, sebuah sistem rekomendasi menyarankan 20 tempat dalam jarak yang realistis yang masih memiliki tempat kosong; kapasitas mingguan setiap tempat ditetapkan sebesar 1,5 kali kunjungan nyatanya. Sistem itu dilatih ulang setiap minggu berdasarkan empat bulan sebelumnya, selama sekitar tiga tahun. Kunjungan nyata semua orang lain dalam data — hingga 290.977 orang per kota — dipertahankan, sehingga para penduduk simulasi berbagi tempat dengan mereka.

Empat algoritma dibandingkan: satu yang merekomendasikan tempat-tempat yang paling sering dikunjungi seseorang (UR-POI), dua yang belajar dari tempat-tempat yang mirip atau orang-orang yang mirip, dan satu yang mengikuti pergerakan seluruh populasi.

Mengukur siapa bertemu siapa

Tim mengukur segregasi pendapatan yang dialami (experienced income segregation): bagi setiap orang, seberapa tidak merata waktu yang dihabiskan di berbagai tempat terbagi di antara orang-orang dari keempat kelompok pendapatan. Skor 0 berarti campuran yang merata; skor 1 berarti hanya bertemu dengan satu kelompok. Tempat-tempat yang tercampur penting karena ikatan lintas pendapatan memprediksi mobilitas ke atas. Restoran adalah ajang uji yang baik: tingkat segregasinya sekitar separuh dari tingkat segregasi lingkungan tempat orang tinggal.

Akurasi melawan pembauran

Hasilnya adalah sebuah tarik-ulur. Diurutkan menurut akurasi luring dan diurutkan menurut segregasi yang dihasilkannya, keempat algoritma itu muncul dalam urutan yang sama. Memilih berdasarkan akurasi berarti memilih algoritma yang paling memperkuat segregasi di setiap kota. Algoritma yang paling akurat, UR-POI, membuat orang 15–21% lebih tersegregasi daripada dalam kunjungan nyata mereka. Algoritma ini unggul dalam akurasi justru karena orang kembali ke tempat-tempat yang sudah dikenal — dan dengan mengirim mereka kembali ke sana, algoritma ini membuat mereka tetap berada di antara kelompoknya sendiri.

Yang patut disalahkan adalah pengurutannya, bukan petanya. Memilih secara acak di antara tempat-tempat terjangkau yang sama menghasilkan segregasi terendah dari semuanya di Boston. Dan bebannya paling berat menimpa mereka yang sudah paling terisolasi: penduduk berpendapatan terendah adalah kelompok yang paling tersegregasi di mana-mana, dan di Boston skor mereka naik dari 0,360 dalam kenyataan menjadi 0,413 di bawah UR-POI.

Restoran yang lenyap

Lingkaran itu juga mengosongkan tempat-tempat. Di bawah setiap algoritma dan di setiap kota, paling sedikit seperlima restoran kehilangan semua pengunjung simulasinya — antara 21% dan 71% di antaranya, berbanding 5% hingga 30% tanpa pelatihan ulang mingguan. Pelatihan ulang itu sendiri menyebabkan 55 hingga 75% dari kehilangan tersebut: tempat yang tidak menerima kunjungan keluar dari data dan tidak lagi direkomendasikan. Kehilangan itu terpusat di lingkungan yang kurang aktif dan berpendapatan lebih rendah.

Pembauran dan kelangsungan hidup dapat saling bertolak belakang. Dua algoritma dengan segregasi paling rendah paling banyak belajar dari kunjungan orang lain, mengumpulkan semua orang di tempat-tempat yang sama — tumpang tindih sebesar 4,4 hingga 6,2 kali tumpang tindih dalam kunjungan nyata — sehingga meninggalkan lebih banyak tempat yang kosong, dengan UserKNN paling banyak di antara semuanya, di setiap kota.

Dorongan kecil dalam pengurutan

Tim menguji perbaikan sederhana yang disebut tail-boost, yang ditambahkan di atas algoritma apa pun: skor setiap tempat dicampur dengan sebuah bonus yang lebih besar bagi tempat-tempat yang lebih jarang dikunjungi. Di Boston, dengan mengorbankan paling banyak 15% akurasi luring, perbaikan ini memangkas lenyapnya tempat sebesar 54 hingga 75% di bawah setiap algoritma dan menurunkan segregasi di bawah tiga dari empat algoritma; di bawah UR-POI, kelebihan segregasi turun dari 21% menjadi 13%. Perbaikan ini mencapainya sebagian besar tanpa mengirim orang ke tempat-tempat yang di sana kelompok pendapatan mereka sendiri merupakan minoritas kecil. Akurasi luring saja akan menolaknya.

Simulasi ini membuat perilaku manusia tetap sederhana — dalam simulasi utama, semua orang mengikuti rekomendasi — dan mengukur pendapatan menurut lingkungan, bukan menurut perorangan. Para penulis membuka kode mereka dan berpendapat bahwa platform dan auditor seharusnya menyimulasikan lingkaran itu sebelum menerapkan sebuah algoritma, sejalan dengan semangat Digital Services Act Eropa. Riset rekomendasi sudah lama memperlakukan setiap saran sebagai urusan antara satu pengguna dan satu item; di sebuah kota, seperti dinyatakan makalah itu, setiap rekomendasi yang diikuti “juga mengubah siapa yang dijumpai orang lain dan tempat mana yang tetap dikunjungi.”