ỨNG DỤNG GỢI Ý NHÀ HÀNG CÀNG CHÍNH XÁC, CÀNG TÁCH BIỆT NGƯỜI GIÀU VÀ NGƯỜI NGHÈO

Bản đồ xếp hạng các nhà hàng gần đó, ứng dụng đồ ăn gợi ý nên ăn ở đâu tiếp theo, và các mô hình ngôn ngữ giờ đây trả lời câu hỏi nên đi đâu. Không giống một cuốn cẩm nang in, các hệ thống đứng sau những gợi ý này học hỏi từ chính những lượt ghé thăm mà chúng điều hướng. Chúng được huấn luyện lại dựa trên những nơi mọi người đã đến — kể cả những nơi do chính chúng gợi ý. Đó là một vòng lặp phản hồi (feedback loop) giữa con người và thuật toán.

Các nền tảng thường đánh giá những hệ thống này theo độ chính xác ngoại tuyến (offline accuracy): chúng dự đoán tốt đến đâu những lượt ghé thăm mà mọi người đã thực hiện trước khi có bất kỳ gợi ý nào. Phép thử đó không bao giờ để các gợi ý làm thay đổi nơi mọi người đến, nên nó không thể thấy vòng lặp gây ra điều gì theo thời gian. Một nhóm nghiên cứu từ Đại học Northeastern, Quỹ Bruno Kessler ở Trento, ISTI-CNR ở Pisa và Đại học New York đã bắt tay vào đo lường điều đó.

Vì sao một thành phố không phải là một danh sách phát nhạc

Các vòng lặp phản hồi chủ yếu được nghiên cứu với bài hát, phim và sản phẩm, những thứ mà bao nhiêu người tiêu thụ cũng được mà không ảnh hưởng đến nhau. Nhà hàng khác ở ba điểm. Người ta chọn giữa những nơi trong tầm với từ chỗ họ đang ở. Một nhà hàng chỉ phục vụ được một số khách nhất định. Và một gợi ý cho một người cũng làm thay đổi việc những khách khác gặp gỡ ai.

Vì vậy nhóm đã xây dựng một mô phỏng dựa trên những chuyển động thực. Dữ liệu GPS ẩn danh từ những người dùng đã đồng ý tham gia, ghi lại từ tháng 10 năm 2016 đến tháng 3 năm 2017, cung cấp lịch trình hằng ngày của 4.000 cư dân ở Boston, San Francisco và Detroit và 8.000 cư dân ở Chicago, được lấy đều từ bốn nhóm tứ phân vị thu nhập của khu dân cư nơi họ sống. Ở mỗi chuyến đi ăn, một hệ thống gợi ý đề xuất 20 địa điểm trong một khoảng cách thực tế mà vẫn còn chỗ; sức chứa hằng tuần của mỗi địa điểm được đặt bằng 1,5 lần số lượt ghé thăm thực của nó. Hệ thống được huấn luyện lại mỗi tuần dựa trên bốn tháng trước đó, trong khoảng ba năm. Những lượt ghé thăm thực của tất cả những người khác trong dữ liệu — lên tới 290.977 người mỗi thành phố — được giữ nguyên, nên các cư dân mô phỏng dùng chung địa điểm với họ.

Bốn thuật toán được so sánh: một thuật toán gợi ý những nơi một người hay ghé nhất (UR-POI), hai thuật toán học từ các địa điểm tương tự hoặc những người tương tự, và một thuật toán đi theo các di chuyển của toàn bộ dân cư.

Đo xem ai gặp ai

Nhóm đo mức phân tách thu nhập được trải nghiệm (experienced income segregation): với mỗi người, thời gian họ ở các địa điểm được chia sẻ không đồng đều đến mức nào giữa những người thuộc bốn nhóm thu nhập. Điểm 0 nghĩa là một sự pha trộn đồng đều; điểm 1 nghĩa là chỉ gặp một nhóm duy nhất. Những nơi pha trộn có ý nghĩa vì các mối quan hệ vượt qua ranh giới thu nhập là dấu hiệu dự báo khả năng đi lên trong xã hội. Nhà hàng là một nơi thử nghiệm tốt: mức phân tách ở đó chỉ bằng khoảng một nửa so với các khu dân cư nơi mọi người sinh sống.

Độ chính xác đối lập với sự pha trộn

Kết quả là một sự đánh đổi. Xếp hạng theo độ chính xác ngoại tuyến và xếp hạng theo mức phân tách mà chúng tạo ra, bốn thuật toán xuất hiện theo cùng một thứ tự. Chọn theo độ chính xác đồng nghĩa với chọn thuật toán gây phân tách nhiều nhất ở mọi thành phố. Thuật toán chính xác nhất, UR-POI, khiến mọi người bị phân tách nhiều hơn 15–21% so với các lượt ghé thăm thực của họ. Nó thắng về độ chính xác chính vì người ta hay quay lại những nơi quen thuộc — và bằng cách đưa họ quay lại đó, nó giữ họ ở giữa những người cùng nhóm với mình.

Nguyên nhân là cách xếp hạng, chứ không phải bản đồ. Chọn ngẫu nhiên giữa cùng những địa điểm trong tầm với cho mức phân tách thấp nhất trong tất cả ở Boston. Và gánh nặng đè nặng nhất lên những người vốn đã bị cô lập nhất: các cư dân có thu nhập thấp nhất là nhóm bị phân tách nhiều nhất ở mọi nơi, và ở Boston điểm của họ tăng từ 0,360 trong thực tế lên 0,413 dưới UR-POI.

Những nhà hàng biến mất

Vòng lặp cũng làm các địa điểm trở nên vắng tanh. Với mọi thuật toán và ở mọi thành phố, ít nhất một phần năm số nhà hàng mất hết khách mô phỏng — từ 21% đến 71% trong số đó, so với 5% đến 30% khi không huấn luyện lại hằng tuần. Bản thân việc huấn luyện lại gây ra 55 đến 75% mức mất mát: một địa điểm không có lượt ghé thăm nào sẽ rơi ra khỏi dữ liệu và không còn được gợi ý nữa. Các tổn thất tập trung ở những khu dân cư ít sôi động hơn và có thu nhập thấp hơn.

Sự pha trộn và sự tồn tại có thể kéo về hai phía ngược nhau. Hai thuật toán ít gây phân tách nhất học nhiều nhất từ lượt ghé thăm của người khác, dồn mọi người về cùng những địa điểm — mức trùng lặp gấp 4,4 đến 6,2 lần so với các lượt ghé thăm thực — và vì thế để lại nhiều địa điểm vắng tanh hơn, UserKNN nhiều nhất, ở mọi thành phố.

Một cú hích trong bảng xếp hạng

Nhóm thử nghiệm một cách khắc phục đơn giản gọi là tail-boost (đẩy phần đuôi), có thể thêm vào bất kỳ thuật toán nào: điểm của mỗi địa điểm được pha trộn với một khoản thưởng lớn hơn cho những nơi ít được ghé thăm. Ở Boston, trong khi hy sinh tối đa 15% độ chính xác ngoại tuyến, nó giảm sự biến mất của các địa điểm 54 đến 75% với mọi thuật toán và làm giảm sự phân tách với ba trong bốn thuật toán; dưới UR-POI, mức phân tách vượt trội giảm từ 21% xuống 13%. Phần lớn, nó làm được điều đó mà không đưa mọi người đến những nơi mà nhóm thu nhập của chính họ chỉ là một thiểu số nhỏ. Nếu chỉ dựa vào độ chính xác ngoại tuyến, người ta đã loại bỏ nó.

Mô phỏng giữ hành vi con người ở mức đơn giản — trong các lượt chạy chính, mọi người đều làm theo gợi ý — và nó đo thu nhập theo khu dân cư, chứ không theo từng người. Các tác giả công bố mã nguồn của họ và lập luận rằng các nền tảng và cơ quan kiểm toán nên mô phỏng vòng lặp trước khi triển khai một thuật toán, theo tinh thần của Đạo luật Dịch vụ Kỹ thuật số của châu Âu. Nghiên cứu về hệ thống gợi ý từ lâu đã coi mỗi gợi ý là chuyện riêng giữa một người dùng và một mục; trong một thành phố, như bài báo viết, mỗi gợi ý được làm theo “cũng làm thay đổi việc người khác gặp ai và những địa điểm nào vẫn có khách ghé thăm.”