SATU DARI LIMA JAWABAN KESEHATAN CHATGPT DINILAI BERISIKO TINGGI

ChatGPT memiliki lebih dari 700 juta pengguna mingguan, catat para penulis, dan pertanyaan kesehatan adalah bagian rutin dari penggunaan itu. Adopsinya tumbuh paling cepat di negara berpenghasilan rendah dan menengah, tempat dokter langka — sehingga jawaban AI lebih mungkin menggantikan layanan profesional daripada melengkapinya.

Namun hampir semua yang diketahui tentang keamanan saran kesehatan dari AI berasal dari kasus rekaan: vinyet yang ditulis klinisi, prompt sintetis, pasien simulasi. Padahal keamanan bergantung pada siapa yang bertanya. Puasa, mengangkat beban berat, atau obat rumahan tidak berbahaya bagi kebanyakan orang dewasa yang sehat, tetapi berbahaya bagi seseorang yang punya tukak, baru dioperasi, atau mengalami gangguan makan.

202.590 percakapan yang disumbangkan

Shreyasi Roy Chowdhury, peneliti independen, dan Kiran Garimella dari Rutgers University merekrut 1.252 pengguna ChatGPT di India, Nigeria, Brasil, dan Pakistan. Masing-masing mengekspor dan menyumbangkan seluruh riwayat ChatGPT-nya, beserta usia dan gendernya; data pribadi dihapus di komputer mereka sendiri sebelum diunggah. Hasilnya 202.590 percakapan, dari Desember 2022 hingga Februari 2026, dengan 15.555 di antaranya tentang kesehatan.

Untuk menilainya, tim memakai rubrik keamanan yang telah dipublikasikan dan AI dari penyedia lain sebagai juri — Gemini 3.1 Pro — agar jawaban ChatGPT tidak dinilai oleh model dari perusahaan yang sama. Setiap jawaban mendapat skor dari 1 (berbahaya) hingga 7 (aman); 3 atau lebih rendah dihitung sebagai berisiko tinggi. Juri menilai setiap jawaban dua kali:

secara buta, hanya melihat percakapan itu, seperti yang dilakukan uji keamanan standar;
dengan konteks, mengetahui informasi kesehatan yang menetap yang telah diungkapkan pengguna dalam percakapan sebelumnya — dan menanyakan apakah jawaban itu aman bagi orang tersebut.

Satu dari lima, dan sebagian besar pengguna

Dinilai secara buta, sebagian besar jawaban aman: skor mediannya 6. Tetapi sekitar satu dari lima percakapan kesehatan berisiko tinggi — dari 20,6% di Nigeria hingga 26,3% di Pakistan. Dan karena orang kembali bertanya, 51,6% hingga 61,7% pengguna menerima setidaknya satu jawaban berisiko tinggi.

Risiko terpusat pada pertanyaan yang paling klinis: 40 hingga 48% percakapan tentang penyakit dan perawatan, serta 33 hingga 40% tentang gejala, berisiko tinggi, dibandingkan sekitar 8 hingga 12% untuk informasi kesehatan umum.

Setelah membaca 128 percakapan berisiko, para penulis menemukan kegagalan yang berulang: tidak ada rujukan ke tenaga profesional, saran yang salah atau merugikan, pengobatan sendiri atau dosis yang tidak aman, mendorong ketergantungan pada chatbot, dan diagnosis diri yang berisiko. Contoh mereka antara lain:

tidak menganjurkan skrining tuberkulosis untuk bayi yang terpapar penyakit itu, bertentangan dengan pedoman;
memberikan dosis obat kepada pengguna yang hamil tanpa saran untuk berkonsultasi dengan tenaga kesehatan;
hanya menyebutkan penyebab yang tidak berbahaya untuk nyeri dada saat berolahraga;
merekomendasikan diet dan olahraga untuk anemia berat (hemoglobin 6,6) alih-alih perawatan darurat;
memosisikan dirinya sebagai penopang utama bagi seseorang dalam tekanan mental yang berat dan berkepanjangan.

Siapa yang bertanya mengubah segalanya

Dengan riwayat pengguna terlihat, jawaban yang sama tampak jauh lebih buruk. Porsi risiko tinggi naik 13 hingga 17 poin persentase di setiap negara — di India, dari 29% menjadi 44% dari percakapan yang dianalisis dengan cara ini. Yang mencolok, angkanya konsisten di semua negara: sekitar satu dari empat jawaban yang dinilai aman secara terpisah ternyata tidak aman bagi orang yang benar-benar bertanya.

Pembinaan kebugaran berbalik dari salah satu topik paling aman menjadi salah satu yang paling berisiko. Latihan otot inti yang berat untuk seseorang yang pernah menjalani operasi usus; bawang putih mentah, air lemon, dan jahe untuk seseorang dengan tukak lambung. Dalam sebagian besar kasus ini, tulis para penulis, informasi yang diperlukan untuk menghindari bahaya sudah ada dalam riwayat chat pengguna. Model menggunakannya untuk menyesuaikan nada dan isi — tetapi tidak untuk kehati-hatiannya.

Yang lebih baru tidak lebih aman

Setiap percakapan mencatat model yang menjawab. Dinilai secara buta, tingkat risiko tinggi naik di setiap pembaruan dari GPT-3.5, GPT-4o, dan GPT-5 hingga GPT-5.1, di keempat negara — di Brasil, dari 6,2% menjadi 34,6%. Versi “mini” lebih berisiko daripada model andalannya; yang terbaru, GPT-5.2, kembali turun di India dan Nigeria. Tren ini bertahan untuk pengguna yang sama di model-model yang berurutan, meskipun para penulis tidak dapat sepenuhnya memisahkan model dari waktu penggunaannya.

Seorang juri, bukan dokter

Para penulis berhati-hati tentang apa yang ditunjukkan oleh temuan ini. Para peserta adalah sampel praktis (convenience sample) pekerja daring lepas (gig workers), muda, dan di India serta Pakistan sebagian besar laki-laki, sehingga angkanya bukan angka nasional. Jurinya adalah AI, bukan klinisi, dan yang diukur adalah risiko, bukan bahaya nyata pada siapa pun. Percakapan berisiko dikodekan oleh satu penulis saja.

Mereka menarik paralel dengan farmakovigilans, pemantauan wajib obat-obatan setelah mendapat izin edar: saran kesehatan AI belum memiliki padanannya. Donasi data atas persetujuan, seperti yang mereka lakukan, bisa menjadi prototipe pertama — asalkan alat keamanan yang membaca profil pengguna tidak berubah menjadi pengawasan.