ChatGPT ఆరోగ్య సమాధానాల్లో ప్రతి ఐదింటిలో ఒకటి అధిక ప్రమాదకరం
ChatGPT కి వారానికి 70 కోట్లకు పైగా వినియోగదారులు ఉన్నారని, ఆరోగ్య ప్రశ్నలు ఆ వినియోగంలో సాధారణ భాగమని రచయితలు పేర్కొన్నారు. డాక్టర్ల కొరత ఉన్న తక్కువ, మధ్యస్థ ఆదాయ దేశాల్లో దీని వాడకం అత్యంత వేగంగా పెరుగుతోంది — కాబట్టి అక్కడ ఏఐ సమాధానం వృత్తిపరమైన వైద్యానికి తోడయ్యే కంటే దాని స్థానాన్నే ఆక్రమించే అవకాశం ఎక్కువ.
అయినా ఏఐ ఆరోగ్య సలహా భద్రత గురించి తెలిసిన దాదాపు ప్రతిదీ కల్పిత కేసుల నుంచే వచ్చింది: వైద్యులు రాసిన కేసు వర్ణనలు, కృత్రిమ ప్రాంప్ట్‌లు, అనుకరణ రోగులు. పైగా భద్రత అడుగుతున్నది ఎవరనే దానిపై ఆధారపడి ఉంటుంది. ఉపవాసం, భారీ బరువులు ఎత్తడం లేదా ఒక ఇంటి చిట్కా చాలా మంది ఆరోగ్యవంతులైన పెద్దలకు హానిచేయనిది, కానీ అల్సర్, ఇటీవలి శస్త్రచికిత్స లేదా ఆహార సంబంధిత రుగ్మత (eating disorder) ఉన్నవారికి ప్రమాదకరం.
దానం చేసిన 2,02,590 సంభాషణలు
స్వతంత్ర పరిశోధకురాలు శ్రేయసి రాయ్ చౌధురి, రట్గర్స్ విశ్వవిద్యాలయానికి చెందిన కిరణ్ గరిమెళ్ల భారత్, నైజీరియా, బ్రెజిల్, పాకిస్తాన్‌లలో 1,252 మంది ChatGPT వినియోగదారులను నియమించుకున్నారు. ప్రతి ఒక్కరూ తమ పూర్తి ChatGPT చరిత్రను ఎగుమతి చేసి, తమ వయసు, లింగంతో పాటు దానం చేశారు; అప్‌లోడ్ చేసే ముందు వ్యక్తిగత వివరాలను వారి సొంత కంప్యూటర్‌లోనే తొలగించారు. దీంతో డిసెంబర్ 2022 నుంచి ఫిబ్రవరి 2026 వరకు 2,02,590 సంభాషణలు లభించాయి, వాటిలో 15,555 ఆరోగ్యానికి సంబంధించినవి.
వాటిని అంచనా వేయడానికి, బృందం ప్రచురితమైన ఒక భద్రతా మూల్యాంకన పట్టికను, మరో సంస్థకు చెందిన ఏఐ — Gemini 3.1 Pro — ను న్యాయనిర్ణేతగా ఉపయోగించింది, తద్వారా ChatGPT సమాధానాలను అదే కంపెనీ మోడల్ అంచనా వేయకుండా. ప్రతి సమాధానానికీ 1 (ప్రమాదకరం) నుంచి 7 (సురక్షితం) వరకు స్కోరు ఇచ్చారు; 3 లేదా అంతకంటే తక్కువను అధిక ప్రమాదకరంగా లెక్కించారు. న్యాయనిర్ణేత ప్రతి సమాధానాన్నీ రెండుసార్లు స్కోర్ చేసింది:
- అంధంగా, ఆ సంభాషణను మాత్రమే చూసి, ప్రామాణిక భద్రతా పరీక్షలు చేసే విధంగా;
- సందర్భంతో, వినియోగదారు మునుపటి సంభాషణల్లో వెల్లడించిన శాశ్వత ఆరోగ్య సమాచారం తెలుసుకుని — ఆ సమాధానం ఆ వ్యక్తికి సురక్షితమేనా అని అడుగుతూ.
ఐదింటిలో ఒకటి, చాలా మంది వినియోగదారులు
అంధంగా స్కోర్ చేసినప్పుడు, చాలా సమాధానాలు సురక్షితంగానే ఉన్నాయి: మధ్యగత స్కోరు 6. కానీ దాదాపు ప్రతి ఐదు ఆరోగ్య సంభాషణల్లో ఒకటి అధిక ప్రమాదకరం — నైజీరియాలో 20.6% నుంచి పాకిస్తాన్‌లో 26.3% వరకు. ప్రజలు మళ్లీ మళ్లీ తిరిగి వస్తారు కాబట్టి, 51.6% నుంచి 61.7% వినియోగదారులు కనీసం ఒక అధిక ప్రమాదకర సమాధానాన్ని అందుకున్నారు.
ప్రమాదం అత్యంత వైద్యపరమైన ప్రశ్నల్లోనే కేంద్రీకృతమైంది: వ్యాధులు, చికిత్స గురించిన సంభాషణల్లో 40 నుంచి 48%, లక్షణాల గురించిన వాటిలో 33 నుంచి 40% అధిక ప్రమాదకరం, సాధారణ ఆరోగ్య సమాచారానికి ఇది సుమారు 8 నుంచి 12% మాత్రమే.
128 ప్రమాదకర సంభాషణలను చదివిన రచయితలు పదే పదే జరిగే వైఫల్యాలను గుర్తించారు: నిపుణుడి వద్దకు పంపకపోవడం, తప్పుడు లేదా హానికరమైన సలహా, అసురక్షిత స్వీయ చికిత్స లేదా మోతాదు, చాట్‌బాట్‌పై ఆధారపడటాన్ని ప్రోత్సహించడం, ప్రమాదకర స్వీయ రోగనిర్ధారణ. వారి ఉదాహరణల్లో ఇవి ఉన్నాయి:
- క్షయ వ్యాధికి గురైన శిశువుకు, మార్గదర్శకాలకు విరుద్ధంగా, క్షయ పరీక్ష వద్దని నిరుత్సాహపరచడం;
- గర్భిణీ వినియోగదారుకు మందుల మోతాదులు ఇచ్చి, ఆరోగ్య నిపుణుడిని సంప్రదించమని సలహా ఇవ్వకపోవడం;
- వ్యాయామం చేసేటప్పుడు వచ్చే ఛాతీ నొప్పికి హానిచేయని కారణాలను మాత్రమే పేర్కొనడం;
- తీవ్రమైన రక్తహీనతకు (హిమోగ్లోబిన్ 6.6) అత్యవసర వైద్యానికి బదులుగా ఆహారం, వ్యాయామాన్ని సిఫార్సు చేయడం;
- తీవ్రమైన, దీర్ఘకాలిక మానసిక వేదనలో ఉన్న వ్యక్తికి తానే ప్రధాన ఆధారంగా నిలబడటం.
అడిగేది ఎవరన్నది అన్నింటినీ మారుస్తుంది
వినియోగదారు చరిత్రను దృష్టిలో ఉంచుకున్నప్పుడు, అవే సమాధానాలు చాలా దారుణంగా కనిపించాయి. ప్రతి దేశంలోనూ అధిక ప్రమాద వాటా 13 నుంచి 17 శాతం పాయింట్లు పెరిగింది — భారత్‌లో, ఈ విధంగా విశ్లేషించిన సంభాషణల్లో 29% నుంచి 44% కి. దేశాలన్నింటిలో ఆశ్చర్యకరంగా స్థిరంగా ఉన్నది: విడిగా చూసినప్పుడు సురక్షితం అని రేటింగ్ పొందిన సమాధానాల్లో దాదాపు ప్రతి నాలుగింటిలో ఒకటి, నిజంగా అడిగిన వ్యక్తికి అసురక్షితం.
ఫిట్‌నెస్ శిక్షణ అత్యంత సురక్షితమైన అంశాల్లో ఒకటి నుంచి అత్యంత ప్రమాదకరమైన వాటిలో ఒకటిగా మారిపోయింది. పేగు శస్త్రచికిత్స జరిగిన వ్యక్తికి భారీ కోర్ వ్యాయామాలు; కడుపులో అల్సర్ ఉన్న వ్యక్తికి పచ్చి వెల్లుల్లి, నిమ్మనీళ్లు, అల్లం. ఈ కేసుల్లో చాలా వాటిలో, హాని జరగకుండా ఉండటానికి కావలసిన సమాచారం వినియోగదారు చాట్ చరిత్రలో ఇప్పటికే ఉందని రచయితలు రాశారు. మోడల్ దాన్ని స్వరాన్ని, విషయాన్ని వ్యక్తిగతీకరించడానికి వాడుకుంది — కానీ జాగ్రత్త కోసం కాదు.
కొత్తది అంటే సురక్షితమైనది కాదు
ప్రతి సంభాషణ సమాధానం ఇచ్చిన మోడల్‌ను నమోదు చేస్తుంది. అంధంగా స్కోర్ చేసినప్పుడు, అధిక ప్రమాద రేటు GPT-3.5 నుంచి GPT-4o, GPT-5, GPT-5.1 వరకు ప్రతి అప్‌గ్రేడ్‌తోనూ పెరిగింది, నాలుగు దేశాల్లోనూ — బ్రెజిల్‌లో 6.2% నుంచి 34.6% కి. “mini” వెర్షన్లు ప్రధాన వెర్షన్ల కంటే ఎక్కువ ప్రమాదకరం; సరికొత్త GPT-5.2 భారత్, నైజీరియాల్లో మళ్లీ తగ్గింది. వరుస మోడళ్లలో అదే వినియోగదారులకూ ఈ ధోరణి నిలిచింది, అయితే మోడల్ ప్రభావాన్ని, అది ఉపయోగించిన కాలం ప్రభావాన్ని రచయితలు పూర్తిగా వేరు చేయలేరు.
న్యాయనిర్ణేత, వైద్యుడు కాదు
ఇది ఏం చూపిస్తుందనే విషయంలో రచయితలు జాగ్రత్తగా ఉన్నారు. పాల్గొన్నవారు ఆన్‌లైన్ గిగ్ కార్మికుల నుంచి సౌలభ్యం కొద్దీ ఎంచుకున్న నమూనా, భారత్, పాకిస్తాన్‌లలో యువకులు, ఎక్కువగా పురుషులు, కాబట్టి ఈ రేట్లు జాతీయ గణాంకాలు కావు. న్యాయనిర్ణేత ఒక ఏఐ, వైద్యుడు కాదు, అది కొలిచేది ప్రమాదాన్ని, ఎవరికైనా నిజంగా జరిగిన హానిని కాదు. ప్రమాదకర సంభాషణలను ఒకే రచయిత వర్గీకరించారు.
వారు ఫార్మకోవిజిలెన్స్‌తో (pharmacovigilance), అంటే ఆమోదం తర్వాత మందులపై తప్పనిసరిగా జరిగే పర్యవేక్షణతో, పోలిక చూపుతారు: ఏఐ ఆరోగ్య సలహాకు ఇంకా అలాంటిదేమీ లేదు. వారిది లాంటి సమ్మతితో కూడిన డేటా దానం ఒక మొదటి నమూనా కావచ్చు — వినియోగదారుల ప్రొఫైల్‌లను చదివే భద్రతా సాధనాలు నిఘా సాధనాలుగా మారకుండా ఉంటే.