هرچه اپلیکیشن رستوران دقیق‌تر باشد، ثروتمند و فقیر را بیشتر از هم جدا می‌کند

نقشه‌ها رستوران‌های نزدیک را رتبه‌بندی می‌کنند، اپلیکیشن‌های غذا پیشنهاد می‌کنند وعدهٔ بعدی را کجا بخوریم، و اکنون مدل‌های زبانی هم به پرسش‌ها دربارهٔ اینکه کجا برویم پاسخ می‌دهند. برخلاف یک راهنمای چاپی، سامانه‌های پشت این پیشنهادها از بازدیدهایی که خود هدایت می‌کنند یاد می‌گیرند. آن‌ها بر پایهٔ جاهایی که مردم رفته‌اند دوباره آموزش می‌بینند — از جمله مکان‌هایی که خودشان پیشنهاد داده بودند. این یک حلقهٔ بازخورد (feedback loop) میان مردم و الگوریتم‌هاست.

پلتفرم‌ها معمولاً این سامانه‌ها را با دقت آفلاین (offline accuracy) آن‌ها می‌سنجند: اینکه بازدیدهایی را که مردم پیش از هر پیشنهادی انجام داده‌اند چقدر خوب پیش‌بینی می‌کنند. این آزمون هرگز اجازه نمی‌دهد پیشنهادها مقصد مردم را تغییر دهند، پس نمی‌تواند ببیند این حلقه در طول زمان چه می‌کند. تیمی از دانشگاه نورث‌ایسترن (Northeastern University)، بنیاد برونو کسلر (Bruno Kessler) در ترنتو، ISTI-CNR در پیزا و دانشگاه نیویورک بر آن شد تا این اثر را اندازه بگیرد.

چرا شهر یک فهرست پخش نیست

حلقه‌های بازخورد بیشتر برای آهنگ‌ها، فیلم‌ها و کالاها بررسی شده‌اند؛ هر تعداد آدمی می‌تواند آن‌ها را مصرف کند بی‌آنکه بر یکدیگر اثر بگذارند. رستوران‌ها از سه جهت متفاوت‌اند. مردم از میان مکان‌هایی انتخاب می‌کنند که از جایی که هستند در دسترس‌اند. هر رستوران تنها می‌تواند شمار محدودی مشتری را بپذیرد. و پیشنهادی که به یک نفر داده می‌شود، این را هم تغییر می‌دهد که دیگر مشتری‌ها با چه کسانی روبه‌رو می‌شوند.

از این رو تیم شبیه‌سازی‌ای بر پایهٔ جابه‌جایی‌های واقعی ساخت. داده‌های GPS ناشناس‌شده از کاربرانی که رضایت داده بودند، ثبت‌شده میان اکتبر 2016 و مارس 2017، برنامهٔ روزانهٔ 4,000 ساکن را در بوستون، سان‌فرانسیسکو و دیترویت و 8,000 ساکن را در شیکاگو فراهم کرد؛ این ساکنان به‌طور برابر از چهار چارک درآمدی (چهار دستهٔ هم‌اندازه، از فقیرترین تا ثروتمندترین) محله‌های محل سکونتشان برگزیده شده بودند. در هر بار بیرون رفتن برای غذا، یک سامانهٔ پیشنهاددهنده 20 مکان را در فاصله‌ای واقع‌بینانه پیشنهاد می‌کرد که هنوز جا داشتند؛ ظرفیت هفتگی هر مکان 1.5 برابر بازدیدهای واقعی‌اش تعیین شد. سامانه هر هفته بر پایهٔ چهار ماه پیشین دوباره آموزش داده شد، به مدت حدود سه سال. بازدیدهای واقعی همهٔ افراد دیگرِ موجود در داده‌ها — تا 290,977 نفر در هر شهر — حفظ شد، تا ساکنان شبیه‌سازی‌شده مکان‌ها را با آنان شریک باشند.

چهار الگوریتم مقایسه شدند: یکی که مکان‌هایی را پیشنهاد می‌کند که هر فرد بیش از همه به آن‌ها سر می‌زند (UR-POI)، دو الگوریتم که از مکان‌های مشابه یا افراد مشابه یاد می‌گیرند، و یکی که جابه‌جایی‌های کل جمعیت را دنبال می‌کند.

سنجیدن اینکه چه کسی با چه کسی روبه‌رو می‌شود

تیم جدایی‌گزینی درآمدیِ تجربه‌شده (experienced income segregation) را اندازه گرفت: برای هر فرد، اینکه زمانی که در مکان‌ها می‌گذراند تا چه اندازه نابرابر میان افراد چهار گروه درآمدی تقسیم می‌شود. نمرهٔ 0 یعنی آمیزه‌ای یکنواخت؛ نمرهٔ 1 یعنی روبه‌رو شدن تنها با یک گروه. مکان‌های آمیخته اهمیت دارند، چون پیوندهای میان سطوح درآمدی پیش‌بینی‌کنندهٔ تحرک اجتماعی رو به بالا هستند. رستوران‌ها بستر آزمون خوبی‌اند: جدایی‌گزینی در آن‌ها حدود نصفِ جدایی‌گزینی در محله‌هایی است که مردم در آن زندگی می‌کنند.

دقت در برابر آمیختگی

نتیجه یک بده‌بستان است. چهار الگوریتم، چه بر پایهٔ دقت آفلاین رتبه‌بندی شوند و چه بر پایهٔ جدایی‌گزینی‌ای که پدید می‌آورند، به همان ترتیب قرار می‌گیرند. انتخاب بر پایهٔ دقت، در همهٔ شهرها جدایی‌افکن‌ترین الگوریتم را برمی‌گزیند. دقیق‌ترین آن‌ها، UR-POI، جدایی‌گزینی مردم را 15 تا 21% بیشتر از بازدیدهای واقعی‌شان کرد. این الگوریتم دقیقاً به این دلیل در دقت برنده می‌شود که مردم به مکان‌های آشنا بازمی‌گردند — و با فرستادن دوبارهٔ آنان به همان‌جا، آنان را در میان هم‌گروه‌های خودشان نگه می‌دارد.

مقصر رتبه‌بندی است، نه نقشه. انتخاب تصادفی از میان همان مکان‌های در دسترس، در بوستون کمترین جدایی‌گزینی را در میان همه به دست داد. و بار این وضع بیش از همه بر دوش کسانی است که از پیش منزوی‌ترند: کم‌درآمدترین ساکنان در همه‌جا جدایی‌گزیده‌ترین گروه بودند، و در بوستون نمرهٔ آنان از 0.360 در واقعیت به 0.413 زیر UR-POI رسید.

رستوران‌هایی که ناپدید می‌شوند

این حلقه مکان‌ها را هم خالی می‌کند. زیر همهٔ الگوریتم‌ها و در همهٔ شهرها، دست‌کم یک‌پنجم رستوران‌ها همهٔ بازدیدکنندگان شبیه‌سازی‌شدهٔ خود را از دست دادند — میان 21% و 71% آن‌ها، در برابر 5% تا 30% بدون آموزش دوبارهٔ هفتگی. خودِ آموزش دوباره عامل 55 تا 75% از این زیان بود: مکانی که هیچ بازدیدی دریافت نمی‌کند از داده‌ها کنار می‌رود و دیگر پیشنهاد نمی‌شود. این زیان‌ها در محله‌های کم‌تحرک‌تر و کم‌درآمدتر متمرکز بود.

آمیختگی و ماندگاری می‌توانند از هم فاصله بگیرند. دو الگوریتمی که کمترین جدایی‌گزینی را پدید می‌آورند، بیش از همه از بازدیدهای دیگران یاد می‌گیرند و همه را در همان مکان‌ها گرد هم می‌آورند — با هم‌پوشانی‌ای 4.4 تا 6.2 برابرِ بازدیدهای واقعی — و بنابراین مکان‌های بیشتری را خالی می‌گذارند، و UserKNN بیش از همه، در همهٔ شهرها.

تلنگری در رتبه‌بندی

تیم راه‌حلی ساده به نام تقویت دُم (tail-boost) را آزمود که می‌توان آن را روی هر الگوریتمی افزود: امتیاز هر مکان با پاداشی آمیخته می‌شود که برای مکان‌های کم‌بازدیدتر بزرگ‌تر است. در بوستون، این راه‌حل در حالی که حداکثر 15% از دقت آفلاین را فدا می‌کرد، ناپدید شدن مکان‌ها را زیر همهٔ الگوریتم‌ها 54 تا 75% کاهش داد و جدایی‌گزینی را زیر سه الگوریتم از چهار پایین آورد؛ زیر UR-POI، جدایی‌گزینی مازاد از 21% به 13% رسید. این کار را عمدتاً بدون فرستادن مردم به جاهایی انجام داد که گروه درآمدی خودشان در آنجا اقلیتی کوچک است. اگر تنها دقت آفلاین ملاک بود، این راه‌حل رد می‌شد.

این شبیه‌سازی رفتار مردم را ساده نگه می‌دارد — در اجراهای اصلی، همه از پیشنهادها پیروی می‌کنند — و درآمد را بر پایهٔ محله می‌سنجد، نه بر پایهٔ فرد. نویسندگان کد خود را منتشر می‌کنند و استدلال می‌کنند که پلتفرم‌ها و حسابرسان باید پیش از به‌کارگیری یک الگوریتم، این حلقه را شبیه‌سازی کنند، در راستای روح قانون خدمات دیجیتال اروپا (Digital Services Act). پژوهش‌های سامانه‌های پیشنهاددهنده مدت‌ها هر پیشنهاد را موضوعی میان یک کاربر و یک آیتم دانسته‌اند؛ در یک شهر، به تعبیر مقاله، هر پیشنهادی که دنبال می‌شود «این را هم تغییر می‌دهد که دیگران با چه کسانی روبه‌رو می‌شوند و کدام مکان‌ها همچنان بازدید می‌شوند.»