PLUS L'APPLI DE RESTAURANTS EST PRÉCISE, PLUS ELLE SÉPARE RICHES ET PAUVRES
Les cartes classent les restaurants alentour, les applis de livraison suggèrent où manger ensuite, et les modèles de langage répondent désormais aux questions sur les endroits où aller. Contrairement à un guide imprimé, les systèmes derrière ces suggestions apprennent des visites qu’ils orientent. Ils sont réentraînés sur les lieux où les gens sont allés — y compris ceux qu’ils ont eux-mêmes recommandés. C’est une boucle de rétroaction entre les gens et les algorithmes.
Les plateformes jugent d’ordinaire ces systèmes par leur précision hors ligne : leur capacité à prédire des visites faites avant toute recommandation. Ce test ne laisse jamais les suggestions changer les déplacements des gens : il ne peut pas voir ce que la boucle produit avec le temps. Une équipe de l’université Northeastern, de la Fondation Bruno Kessler à Trente, de l’ISTI-CNR à Pise et de l’université de New York a entrepris de le mesurer.
Une ville n’est pas une playlist
Les boucles de rétroaction ont surtout été étudiées pour des chansons, des films et des produits, que n’importe quel nombre de personnes peut consommer sans se gêner. Les restaurants diffèrent sur trois points. On choisit parmi les lieux à portée de l’endroit où l’on se trouve. Un restaurant ne peut servir qu’un nombre limité de clients. Et une recommandation faite à une personne change aussi qui les autres clients rencontrent.
L’équipe a donc construit une simulation sur des déplacements réels. Des données GPS anonymisées d’utilisateurs consentants, enregistrées d’octobre 2016 à mars 2017, ont fourni les emplois du temps de 4 000 habitants à Boston, San Francisco et Detroit, et de 8 000 à Chicago, tirés à parts égales dans les quatre quartiles de revenu (quatre tranches de même taille, des plus pauvres aux plus riches) de leur quartier. À chaque sortie pour manger, un système de recommandation proposait 20 lieux à une distance réaliste et qui avaient encore de la place ; la capacité hebdomadaire de chaque lieu valait 1,5 fois ses visites réelles. Le système était réentraîné chaque semaine sur les quatre mois précédents, pendant environ trois ans. Les vraies visites de toutes les autres personnes des données — jusqu’à 290 977 par ville — étaient conservées : les habitants simulés partageaient les lieux avec elles.
Quatre algorithmes ont été comparés : l’un recommande les lieux qu’une personne fréquente le plus (UR-POI), deux apprennent des lieux semblables ou des personnes semblables, et le dernier suit les déplacements de toute la population.
Mesurer qui croise qui
L’équipe a mesuré la ségrégation de revenu vécue : pour chaque personne, à quel point le temps passé dans les lieux se répartit inégalement entre des gens des quatre groupes de revenu. Un score de 0 signifie un mélange égal ; un score de 1, ne croiser qu’un seul groupe. Les lieux mélangés comptent, car les liens entre revenus prédisent l’ascension sociale. Les restaurants sont un bon terrain d’essai : ils sont environ deux fois moins ségrégés que les quartiers où les gens habitent.
La précision contre la mixité
Le résultat est un arbitrage. Classés par précision hors ligne et classés par la ségrégation qu’ils produisent, les quatre algorithmes sortent dans le même ordre. Choisir par la précision désigne l’algorithme le plus ségrégant dans chaque ville. Le plus précis, UR-POI, a laissé les gens 15 à 21 % plus ségrégés que dans leurs visites réelles. Il gagne en précision justement parce que les gens reviennent aux lieux familiers — et en les y renvoyant, il les garde entre eux.
C’est le classement qui est en cause, pas la carte. Choisir au hasard parmi les mêmes lieux accessibles a donné la ségrégation la plus basse de toutes à Boston. Et le poids retombe surtout sur les plus isolés : les habitants aux revenus les plus bas étaient partout le groupe le plus ségrégé, et à Boston leur score est passé de 0,360 en réalité à 0,413 avec UR-POI.
Des restaurants qui disparaissent
La boucle vide aussi des lieux. Avec chaque algorithme et dans chaque ville, au moins un restaurant sur cinq a perdu tous ses visiteurs simulés — entre 21 % et 71 % d’entre eux, contre 5 % à 30 % sans réentraînement hebdomadaire. Le réentraînement lui-même explique 55 à 75 % de la perte : un lieu qui ne reçoit plus de visites sort des données et n’est plus recommandé. Les pertes se sont concentrées dans les quartiers moins actifs et à plus bas revenu.
Mixité et survie peuvent tirer en sens contraire. Les deux algorithmes les moins ségrégants apprennent surtout des visites des autres et rassemblent tout le monde aux mêmes endroits — un recoupement 4,4 à 6,2 fois celui des visites réelles —, ce qui laisse davantage de lieux vides, UserKNN le plus, dans chaque ville.
Un coup de pouce dans le classement
L’équipe a testé un correctif simple appelé tail-boost, ajouté par-dessus n’importe quel algorithme : le score de chaque lieu est mélangé à un bonus d’autant plus grand que le lieu est peu visité. À Boston, en sacrifiant au plus 15 % de précision hors ligne, il a réduit la disparition de lieux de 54 à 75 % avec chaque algorithme et abaissé la ségrégation pour trois sur quatre ; avec UR-POI, l’excès de ségrégation est passé de 21 % à 13 %. Et cela, en grande partie sans envoyer les gens dans des lieux où leur propre groupe de revenu est très minoritaire. La seule précision hors ligne aurait rejeté ce correctif.
La simulation garde les humains simples — dans les calculs principaux, tout le monde suit les recommandations — et mesure le revenu par quartier, pas par personne. Les auteurs publient leur code et plaident pour que plateformes et auditeurs simulent la boucle avant de déployer un algorithme, dans l’esprit du règlement européen sur les services numériques. La recherche sur la recommandation a longtemps traité chaque suggestion comme une affaire entre un utilisateur et un article ; dans une ville, comme l’écrit l’article, chaque recommandation suivie « change aussi qui les autres rencontrent et quels lieux restent fréquentés ».