CỨ NĂM CÂU TRẢ LỜI VỀ SỨC KHỎE CỦA CHATGPT THÌ CÓ MỘT CÂU BỊ ĐÁNH GIÁ RỦI RO CAO

Các tác giả lưu ý rằng ChatGPT có hơn 700 triệu người dùng mỗi tuần, và câu hỏi về sức khỏe là một phần thường xuyên trong cách người ta sử dụng nó. Mức độ sử dụng tăng nhanh nhất ở các nước thu nhập thấp và trung bình, nơi thiếu bác sĩ — vì vậy câu trả lời của AI ở đó dễ thay thế việc chăm sóc chuyên môn hơn là bổ sung cho nó.

Thế nhưng gần như mọi hiểu biết về độ an toàn của lời khuyên sức khỏe từ AI đều đến từ những ca bệnh bịa ra: các tình huống mô tả do bác sĩ viết, các lời nhắc tổng hợp, bệnh nhân mô phỏng. Mà độ an toàn lại phụ thuộc vào việc ai đang hỏi. Nhịn ăn, nâng tạ nặng hay một bài thuốc dân gian là vô hại với phần lớn người trưởng thành khỏe mạnh, nhưng nguy hiểm với người bị loét dạ dày, mới phẫu thuật hoặc mắc chứng rối loạn ăn uống.

202.590 cuộc trò chuyện được hiến tặng

Shreyasi Roy Chowdhury, một nhà nghiên cứu độc lập, và Kiran Garimella, ở Đại học Rutgers, đã tuyển 1.252 người dùng ChatGPT ở Ấn Độ, Nigeria, Brazil và Pakistan. Mỗi người xuất và hiến tặng toàn bộ lịch sử ChatGPT của mình, kèm tuổi và giới tính; thông tin cá nhân được xóa ngay trên máy tính của họ trước khi tải lên. Kết quả là 202.590 cuộc trò chuyện, từ tháng 12/2022 đến tháng 2/2026, trong đó 15.555 cuộc liên quan đến sức khỏe.

Để chấm điểm, nhóm dùng một bộ tiêu chí an toàn đã được công bố và một AI của nhà cung cấp khác làm giám khảo — Gemini 3.1 Pro — để các câu trả lời của ChatGPT không bị chấm bởi một mô hình của cùng công ty. Mỗi câu trả lời nhận điểm từ 1 (nguy hiểm) đến 7 (an toàn); từ 3 trở xuống được tính là rủi ro cao. Giám khảo chấm mỗi câu trả lời hai lần:

• mù, chỉ nhìn vào cuộc trò chuyện đó, như các bài kiểm tra an toàn tiêu chuẩn vẫn làm;
• có bối cảnh, biết những thông tin sức khỏe lâu dài mà người dùng đã tiết lộ trong các cuộc trò chuyện trước — và đặt câu hỏi liệu câu trả lời có an toàn cho chính người đó hay không.

Một phần năm, và phần lớn người dùng

Khi chấm mù, phần lớn câu trả lời là an toàn: điểm trung vị là 6. Nhưng khoảng một phần năm số cuộc trò chuyện về sức khỏe có rủi ro cao — từ 20,6% ở Nigeria đến 26,3% ở Pakistan. Và vì người ta quay lại nhiều lần, 51,6% đến 61,7% người dùng đã nhận ít nhất một câu trả lời rủi ro cao.

Rủi ro tập trung ở những câu hỏi mang tính lâm sàng nhất: 40 đến 48% các cuộc trò chuyện về bệnh và chăm sóc, và 33 đến 40% về triệu chứng, có rủi ro cao, so với khoảng 8 đến 12% đối với thông tin sức khỏe chung.

Đọc 128 cuộc trò chuyện rủi ro, các tác giả tìm thấy những lỗi lặp đi lặp lại: không giới thiệu đến chuyên gia, lời khuyên sai hoặc có hại, tự điều trị hay dùng liều không an toàn, khuyến khích phụ thuộc vào chatbot, và tự chẩn đoán đầy rủi ro. Các ví dụ của họ gồm:

• can ngăn việc tầm soát bệnh lao cho một trẻ sơ sinh đã phơi nhiễm với bệnh, trái với hướng dẫn;
• đưa liều thuốc cho một người dùng đang mang thai mà không khuyên tham khảo ý kiến nhân viên y tế;
• chỉ liệt kê những nguyên nhân vô hại cho cơn đau ngực khi tập thể dục;
• khuyên ăn uống và tập luyện cho tình trạng thiếu máu nặng (hemoglobin 6,6) thay vì đi cấp cứu;
• tự đặt mình làm chỗ dựa chính cho một người đang chịu đựng khủng hoảng tinh thần nặng và kéo dài.

Ai hỏi sẽ thay đổi tất cả

Khi xét đến lịch sử của người dùng, cùng những câu trả lời ấy trông tệ hơn nhiều. Tỉ lệ rủi ro cao tăng 13 đến 17 điểm phần trăm ở mọi quốc gia — ở Ấn Độ, từ 29% lên 44% số cuộc trò chuyện được phân tích theo cách này. Điều đáng chú ý là nó gần như không đổi giữa các nước: cứ khoảng bốn câu trả lời được đánh giá là an toàn khi xét riêng thì có một câu không an toàn với chính người đã hỏi.

Huấn luyện thể hình chuyển từ một trong những chủ đề an toàn nhất thành một trong những chủ đề rủi ro nhất. Các bài tập cơ bụng nặng cho người từng phẫu thuật ruột; tỏi sống, nước chanh và gừng cho người bị loét dạ dày. Các tác giả viết rằng trong phần lớn những trường hợp này, thông tin cần thiết để tránh gây hại đã có sẵn trong lịch sử trò chuyện của người dùng. Mô hình đã dùng nó để cá nhân hóa giọng điệu và nội dung — nhưng không dùng để thận trọng hơn.

Mới hơn không có nghĩa là an toàn hơn

Mỗi cuộc trò chuyện đều ghi lại mô hình đã trả lời. Khi chấm mù, tỉ lệ rủi ro cao tăng lên sau mỗi lần nâng cấp, từ GPT-3.5 qua GPT-4o và GPT-5 đến GPT-5.1, ở cả bốn nước — ở Brazil, từ 6,2% lên 34,6%. Các phiên bản “mini” rủi ro hơn các phiên bản chủ lực; phiên bản mới nhất, GPT-5.2, giảm trở lại ở Ấn Độ và Nigeria. Xu hướng này vẫn đúng với cùng những người dùng qua các mô hình kế tiếp nhau, dù các tác giả không thể tách bạch hoàn toàn tác động của mô hình với thời điểm nó được sử dụng.

Một giám khảo, không phải bác sĩ

Các tác giả thận trọng về những gì kết quả này cho thấy. Người tham gia là một mẫu thuận tiện gồm những người làm việc tự do trực tuyến, trẻ tuổi và chủ yếu là nam giới ở Ấn Độ và Pakistan, nên các tỉ lệ này không phải số liệu quốc gia. Giám khảo là một AI, không phải bác sĩ lâm sàng, và nó đo rủi ro, chứ không đo thiệt hại thực tế với bất kỳ ai. Các cuộc trò chuyện rủi ro được phân loại bởi một tác giả duy nhất.

Họ so sánh với cảnh giác dược (pharmacovigilance), tức việc giám sát bắt buộc đối với thuốc sau khi được cấp phép: lời khuyên sức khỏe từ AI hiện chưa có cơ chế tương đương. Việc hiến tặng dữ liệu có sự đồng thuận, như nghiên cứu của họ, có thể là một nguyên mẫu đầu tiên — với điều kiện các công cụ an toàn đọc hồ sơ người dùng không biến thành công cụ giám sát.