THỬ NHỜ MỘT CHATBOT CHỌN MỘT SỐ NGẪU NHIÊN

Người ta nhờ chatbot phân xử thế hòa, đưa ra những lựa chọn tùy ý hoặc thay cho việc tung đồng xu. Samar Ansari coi đây là một vấn đề hiệu chuẩn: một mô hình không có lý do gì để ưu tiên lựa chọn nào thì phải trải đều xác suất của nó cho tất cả các lựa chọn. Theo lời bài báo, cách một mô hình hành xử khi không có gì ưu ái câu trả lời nào là “một thuộc tính đo lường được, không phải một trò mẹo mua vui”.

Các nghiên cứu trước đây đếm câu trả lời: hỏi cùng một câu khoảng một trăm lần, rồi vẽ biểu đồ tần suất. Cách đó trộn lẫn điều bản thân mô hình ưa thích với tác động của các thiết lập giải mã lên nó, và một trăm lần rút mẫu thì che khuất các chi tiết tinh tế.

Xác suất chính xác, không cần gieo xúc xắc

Với một lời nhắc cố định, một mô hình ngôn ngữ xác định một xác suất cho mỗi phần tiếp nối có thể có. Vì vậy, thay vì lấy mẫu, tác giả tính xác suất để mô hình viết ra từng số nguyên từ 1 đến N — rồi dừng lại. Bước cuối cùng này quan trọng: nếu không có nó, viết “1” và viết “17” sẽ không phải là hai câu trả lời tách biệt, vì cái này là phần mở đầu của cái kia.

Lời nhắc luôn giống nhau: “Give me a random integer between 1 and [N], inclusive. Reply with only the number.” Nghiên cứu bao gồm 18 họ mô hình mở (Qwen, Gemma, Llama, OLMo và các họ khác, không mô hình nào vượt quá 8 tỷ tham số), năm khoảng số từ 1–5 đến 1–100, 29 thiết lập giải mã và hai máy tính khác nhau. Một phép kiểm tra đối chiếu với 5.000 câu trả lời được lấy mẫu thực tế từ một mô hình cho ra cùng con số được ưa chuộng nhất, 15, với xác suất 0,579 theo tính toán và 0,587 theo lấy mẫu.

Tinh chỉnh bóp hẹp độ phân tán

Thước đo là khoảng cách biến phân toàn phần so với một lần rút thăm công bằng: phần xác suất nằm trên những con số “sai”. Số 0 nghĩa là đồng đều hoàn hảo; giữa 1 và 30, giá trị tối đa là 0,967.

Với 15 mô hình, nghiên cứu so sánh phiên bản “gốc” thô với phiên bản được tinh chỉnh để làm theo chỉ dẫn. Ở cả 15 cặp, tinh chỉnh đều khiến các câu trả lời kém đồng đều hơn. Gemma-3-4b đi từ 0,135 lên 0,966, chỉ cách mức tối đa một sợi tóc: khi các nhà nghiên cứu viết sẵn phần mở đầu câu trả lời của nó là “Answer: “, nó đưa ra 17 với xác suất 1,000 (0,997 khi nó tự do trả lời). Ngược lại, một số mô hình gốc gần như công bằng: OLMo-2-7B ở mức 0,063.

Ba thói quen

Né hai đầu. Các mô hình gốc vốn đã chỉ đưa ra 1 hoặc số lớn nhất với tần suất bằng 0,30 đến 0,60 lần so với bất kỳ số nào nằm giữa hai đầu. Các mô hình đã tinh chỉnh thì gần như không bao giờ.
Né số tròn — nhưng chỉ sau khi tinh chỉnh. Không tính hai đầu, các mô hình gốc dành cho các bội số của 10 đúng phần công bằng của chúng. Các mô hình đã tinh chỉnh chỉ dành cho chúng 0,00 đến 0,12 phần ấy; giữa 1 và 30, đó là mức giảm mười chín lần. Số càng tròn, sự né tránh càng mạnh.
Nghiêng về số lẻ, rõ ràng ở các mô hình đã tinh chỉnh chỉ trong khoảng từ 1 đến 100, nơi 27 trên 33 cấu hình đã tinh chỉnh ưu tiên chúng.

Ngược lại, phần giữa của khoảng số hầu như không bị né tránh.

Không có con số yêu thích chung

Tinh chỉnh không cấy một con số thần kỳ vào mọi mô hình. Những con số được ưa chuộng nhất của các mô hình đã tinh chỉnh là 3 (1 đến 5), 7 (1 đến 10), 14 (1 đến 20), 17 (1 đến 30) và 42 (1 đến 100) — từ đó có tiêu đề bài báo — nhưng trên 10, không con số yêu thích nào được quá 42% số cấu hình cùng chia sẻ. Xác suất của số 17 tăng sau khi tinh chỉnh ở 10 cặp và giảm ở 5 cặp. Qwen3-1.7B, có phiên bản gốc ưa số 17, cuối cùng lại dồn 0,993 vào số 15.

Thủ phạm cũng không phải bộ giải mã. Việc cắt bỏ các câu trả lời ít khả năng, một thiết lập phổ biến, chỉ cộng thêm trung vị 0,035 vào khoảng cách so với một lần rút thăm công bằng: độ lệch nằm trong chính mô hình.

Mượn thói quen, không mượn con số

Trong một nghiên cứu kinh điển về lựa chọn của con người, Kubovy và Psotka đề nghị 558 người qua đường chọn một chữ số từ 0 đến 9; gộp với ba nghiên cứu trước đó, 28,4% trong số 1.770 người đã chọn 7. Lời giải thích của họ, được đưa ra như một phỏng đoán, là con người né hai đầu, phần giữa, các số chẵn và các bội số của 3. Các mô hình đã tinh chỉnh có chung hoàn toàn thói quen thứ nhất và xu hướng nghiêng về số lẻ ở khoảng số lớn nhất, nhưng không né phần giữa — và thói quen mạnh nhất của chúng, né số tròn, không có trong lời giải thích về con người. Các con số cụ thể chỉ trùng với con người một lần: số 7, giữa 1 và 10.

Tác giả nhấn mạnh rằng thất bại này có cấu trúc chứ không phải nhiễu loạn: một mô hình đã tinh chỉnh khi chọn tùy ý giữa các con số sẽ lái tránh khỏi lựa chọn đầu tiên, lựa chọn cuối cùng và những số tròn. Lời khuyên thực tế từ đó mà ra — đừng dùng mô hình ngôn ngữ làm bộ sinh số ngẫu nhiên; hãy rút con số bên ngoài nó, rồi đưa kết quả cho mô hình.