餐厅推荐应用越精准，就越把富人和穷人分隔开来

地图为附近的餐厅排序，美食应用推荐下一顿去哪儿吃，如今语言模型也能回答该去哪里的问题。与印刷版指南不同，这些建议背后的系统会从它们所引导的到访中学习。它们会根据人们去过的地方重新训练——其中包括它们自己推荐的地方。这就是人与算法之间的反馈循环。

平台通常用离线精度来评判这些系统：即它们对人们在任何推荐出现之前的到访预测得有多准。这种检验从不让推荐改变人们的去向，因此看不到这个循环随着时间推移会产生什么影响。来自美国东北大学、特伦托布鲁诺·凯斯勒基金会、比萨ISTI-CNR和纽约大学的一个团队着手对此进行测量。

城市为什么不是歌单

反馈循环大多是在歌曲、电影和商品上研究的，这些东西任意多的人都可以消费，彼此互不影响。餐厅在三个方面有所不同。人们只在自己所在位置可及范围内的地方中做选择。一家餐厅能接待的顾客数量有限。而且，对一个人的推荐也会改变其他顾客会遇到谁。

因此，团队基于真实的出行轨迹构建了一个模拟。来自自愿加入的用户、记录于2016年10月至2017年3月之间的匿名GPS数据，给出了波士顿、旧金山和底特律各4000名居民以及芝加哥8000名居民的日常日程，这些居民按其居住街区所属的四个收入四分位组平均抽取。每次外出就餐时，推荐系统都会在合理距离内推荐20个仍有空位的场所；每个场所的每周容量设定为其真实到访量的1.5倍。系统每周根据前四个月的数据重新训练一次，持续约三年。数据中其他所有人——每座城市多达290977人——的真实到访都被保留，因此模拟居民与他们共享这些场所。

研究比较了四种算法：一种推荐一个人最常去的地方（UR-POI），两种从相似场所或相似人群中学习，还有一种跟随全体人群的动向。

衡量谁与谁相遇

团队测量的是体验到的收入隔离：对每个人而言，在其所去场所度过的时间里，四个收入群体的人所占的比重有多不均衡。得分为0表示均匀混合；得分为1表示只遇到一个群体的人。混合的场所之所以重要，是因为跨越收入的联系能预示向上流动。餐厅是很好的试验场：它们的隔离程度约为人们所居住街区的一半。

精度与混合的对立

结果是一种此消彼长的权衡。按离线精度排序和按所造成的隔离程度排序，四种算法的顺序完全相同。按精度来选，在每座城市选中的都是隔离效应最强的算法。最精准的UR-POI让人们的隔离程度比其真实到访情况高出15%–21%。它在精度上胜出，恰恰是因为人们会回到熟悉的地方——而通过把他们送回那里，它让他们一直待在同类人中间。

该怪的是排序，而不是地图。在同样可及的场所中随机挑选，在波士顿得到的隔离程度是所有方案中最低的。而且，负担最重地落在本已最孤立的人身上：收入最低的居民在各地都是隔离程度最高的群体，在波士顿，他们的得分从现实中的0.360升至UR-POI下的0.413。

消失的餐厅

这个循环还会让场所变得门可罗雀。无论哪种算法、哪座城市，都至少有五分之一的餐厅失去了全部模拟访客——比例在21%到71%之间，而不进行每周重新训练时为5%到30%。重新训练本身造成了**55%到75%**的损失：一个没有到访的场所会从数据中消失，不再被推荐。损失集中在不太活跃、收入较低的街区。

混合与存活可能背道而驰。隔离程度最低的两种算法最依赖从他人的到访中学习，把所有人都聚集到同样的场所——重叠程度是真实到访的4.4到6.2倍——因此留下了更多空无一人的场所，在每座城市中都以UserKNN留下的最多。

在排序上轻推一把

团队测试了一种名为尾部提升（tail-boost）的简单修正，它可以叠加在任何算法之上：每个场所的得分与一项奖励加权混合，到访越少的地方，奖励越大。在波士顿，它最多牺牲15%的离线精度，却在每种算法下都使场所消失减少了54%到75%，并在四种算法中的三种下降低了隔离程度；在UR-POI下，超出的隔离程度从21%降至13%。而且它在很大程度上做到了这一点，并没有把人们送到他们自己的收入群体只占极少数的地方。如果只看离线精度，这种修正就会被否决。

该模拟对人的处理很简单——在主要的模拟运行中，每个人都遵循推荐——而且它是按街区而不是按个人来衡量收入的。作者公开了他们的代码，并主张平台和审计方应在部署算法之前对这一循环进行模拟，这符合欧洲《数字服务法》的精神。长期以来，推荐研究把每一条推荐都当作一个用户与一个物品之间的事；而在一座城市里，正如论文所说，每一条被采纳的推荐“也会改变其他人遇到谁，以及哪些场所仍有人光顾”。