CHATGPT'NİN SAĞLIK YANITLARININ BEŞTE BİRİ YÜKSEK RİSKLİ BULUNDU

Yazarların belirttiğine göre ChatGPT’nin haftalık 700 milyonun üzerinde kullanıcısı var ve sağlık soruları bu kullanımın olağan bir parçası. Benimsenme en hızlı, doktorların az olduğu düşük ve orta gelirli ülkelerde artıyor — yani bir yapay zekâ yanıtının profesyonel bakıma eklenmekten çok onun yerini alması daha olası.

Yine de yapay zekâ sağlık tavsiyelerinin güvenliği hakkında bilinenlerin neredeyse tamamı uydurma vakalardan geliyor: klinisyenlerin yazdığı kısa vaka öyküleri, sentetik istemler, simüle hastalar. Oysa güvenlik, kimin sorduğuna bağlı. Oruç tutmak, ağır kaldırmak ya da evde yapılan bir çare, sağlıklı yetişkinlerin çoğu için zararsızdır; ülseri, yakın zamanda geçirilmiş bir ameliyatı ya da yeme bozukluğu olan biri içinse tehlikelidir.

Bağışlanan 202.590 sohbet

Bağımsız araştırmacı Shreyasi Roy Chowdhury ve Rutgers University’den Kiran Garimella, Hindistan, Nijerya, Brezilya ve Pakistan’dan 1.252 ChatGPT kullanıcısını çalışmaya dahil etti. Her biri, yaşı ve cinsiyetiyle birlikte ChatGPT geçmişinin tamamını dışa aktarıp bağışladı; kişisel bilgiler yüklemeden önce kendi bilgisayarlarında silindi. Böylece Aralık 2022’den Şubat 2026’ya uzanan 202.590 sohbet elde edildi; bunların 15.555’i sağlıkla ilgiliydi.

Ekip bunları değerlendirmek için yayımlanmış bir güvenlik ölçütü ve hakem olarak başka bir sağlayıcının yapay zekâsını — Gemini 3.1 Pro — kullandı; böylece ChatGPT’nin yanıtları aynı şirketin bir modeli tarafından puanlanmadı. Her yanıt 1 (tehlikeli) ile 7 (güvenli) arasında bir puan aldı; 3 ve altı yüksek riskli sayıldı. Hakem her yanıtı iki kez puanladı:

• körlemesine, standart güvenlik testlerinin yaptığı gibi yalnızca sohbete bakarak;
• bağlamla, kullanıcının önceki sohbetlerde açıkladığı kalıcı sağlık bilgilerini bilerek — ve yanıtın o kişi için güvenli olup olmadığını sorarak.

Beşte bir ve kullanıcıların çoğu

Körlemesine puanlandığında yanıtların çoğu güvenliydi: medyan puan 6’ydı. Ama sağlık sohbetlerinin yaklaşık beşte biri yüksek riskliydi — Nijerya’da %20,6’dan Pakistan’da %26,3’e. Ve insanlar tekrar tekrar geldiği için kullanıcıların %51,6 ile %61,7’si en az bir yüksek riskli yanıt aldı.

Risk en klinik sorularda yoğunlaştı: hastalıklar ve bakımla ilgili sohbetlerin %40 ile %48’i, belirtilerle ilgili olanların %33 ile %40’ı yüksek riskliydi; genel sağlık bilgisinde bu oran yaklaşık %8 ile %12’ydi.

Riskli 128 sohbeti okuyan yazarlar tekrarlayan hatalar buldu: bir uzmana yönlendirmemek, yanlış ya da zararlı tavsiye, güvensiz kendi kendine tedavi ya da doz, sohbet robotuna bağımlılığı teşvik etmek ve riskli kendi kendine teşhis. Örnekleri arasında şunlar var:

• hastalığa maruz kalmış bir bebek için, kılavuzlara aykırı olarak, verem taramasından vazgeçirmek;
• hamile bir kullanıcıya, bir sağlık uzmanına danışmasını tavsiye etmeden ilaç dozları vermek;
• egzersiz sırasında göğüs ağrısı için yalnızca zararsız nedenler sıralamak;
• ağır anemi (hemoglobin 6,6) için acil bakım yerine diyet ve egzersiz önermek;
• ağır ve uzun süreli ruhsal sıkıntı içindeki birine kendini ana destek olarak konumlandırmak.

Kimin sorduğu her şeyi değiştiriyor

Kullanıcının geçmişi göz önüne alındığında aynı yanıtlar çok daha kötü göründü. Yüksek riskli payı her ülkede 13 ile 17 yüzde puan arttı — Hindistan’da, bu şekilde incelenen sohbetlerin %29’undan %44’üne. Ülkeler arasında çarpıcı biçimde sabit kalan bir bulgu: tek başına güvenli sayılan yanıtların yaklaşık dörtte biri, soruyu gerçekten soran kişi için güvensizdi.

Fitness koçluğu en güvenli konulardan biri olmaktan çıkıp en riskli konulardan birine dönüştü. Bağırsak ameliyatı geçirmiş birine ağır karın ve gövde egzersizleri; mide ülseri olan birine çiğ sarımsak, limonlu su ve zencefil. Yazarların yazdığına göre bu vakaların çoğunda zararı önlemek için gereken bilgi zaten kullanıcının sohbet geçmişindeydi. Model bu bilgiyi üslubu ve içeriği kişiselleştirmek için kullandı — ama temkinini değil.

Yeni, daha güvenli değildi

Her sohbet, yanıtı veren modeli kaydediyor. Körlemesine puanlandığında yüksek risk oranı, dört ülkenin hepsinde GPT-3.5’ten GPT-4o ve GPT-5 üzerinden GPT-5.1’e kadar her yükseltmeyle arttı — Brezilya’da %6,2’den %34,6’ya. “Mini” sürümler amiral gemisi modellerden daha riskliydi; en yenisi olan GPT-5.2 ise Hindistan ve Nijerya’da geriledi. Eğilim, ardışık modellerde aynı kullanıcılar için de sürdü; ancak yazarlar modeli kullanıldığı dönemden tamamen ayıramıyor.

Bir hakem, bir doktor değil

Yazarlar bunun neyi gösterdiği konusunda dikkatli. Katılımcılar, çevrimiçi gündelik işlerde (gig) çalışanlardan oluşan bir kolayda örneklem; Hindistan ve Pakistan’da genç ve çoğunlukla erkekler, dolayısıyla oranlar ulusal rakamlar değil. Hakem bir klinisyen değil, bir yapay zekâ ve gerçek zararı değil, riski ölçüyor. Riskli sohbetler tek bir yazar tarafından kodlandı.

Yazarlar, ilaçların onaydan sonra zorunlu olarak izlenmesi olan farmakovijilans ile bir paralellik kuruyor: yapay zekâ sağlık tavsiyesinin henüz böyle bir karşılığı yok. Onlarınki gibi rızaya dayalı veri bağışı ilk prototip olabilir — yeter ki kullanıcı profillerini okuyan güvenlik araçları bir gözetime dönüşmesin.