ChatGPT-இன் சுகாதாரப் பதில்களில் ஐந்தில் ஒன்று அதிக ஆபத்தானது என மதிப்பீடு

ChatGPT-க்கு வாரந்தோறும் 70 கோடிக்கும் மேற்பட்ட பயனர்கள் உள்ளனர் என்று ஆசிரியர்கள் குறிப்பிடுகின்றனர்; சுகாதாரக் கேள்விகள் அந்தப் பயன்பாட்டின் வழக்கமான பகுதி. மருத்துவர்கள் குறைவாக உள்ள குறைந்த மற்றும் நடுத்தர வருமான நாடுகளில்தான் இதன் பயன்பாடு மிக வேகமாக வளர்கிறது — எனவே ஒரு AI பதில், தொழில்முறைப் பராமரிப்புக்குக் கூடுதலாக அமைவதைவிட அதன் இடத்தையே பிடிக்கும் வாய்ப்பு அதிகம்.

இருந்தும், AI சுகாதார அறிவுரையின் பாதுகாப்பு பற்றி அறியப்பட்டவை ஏறக்குறைய அனைத்தும் கற்பனையான நிகழ்வுகளிலிருந்து வருகின்றன: மருத்துவர்கள் எழுதிய சிறு நிகழ்வுக் குறிப்புகள், செயற்கை அறிவுறுத்தல்கள், உருவகப்படுத்தப்பட்ட நோயாளிகள். ஆனால் பாதுகாப்பு, கேட்பது யார் என்பதைப் பொறுத்தது. விரதம் இருப்பது, கனமான எடை தூக்குவது அல்லது ஒரு வீட்டு வைத்தியம் பெரும்பாலான ஆரோக்கியமான வயதுவந்தோருக்குத் தீங்கற்றவை; வயிற்றுப்புண், அண்மை அறுவைச் சிகிச்சை அல்லது உணவுக் கோளாறு உள்ளவருக்கு ஆபத்தானவை.

நன்கொடையாகப் பெற்ற 202,590 உரையாடல்கள்

சுயாதீன ஆய்வாளர் Shreyasi Roy Chowdhury-யும், Rutgers University-ஐச் சேர்ந்த Kiran Garimella-வும், இந்தியா, நைஜீரியா, பிரேசில், பாகிஸ்தானில் 1,252 ChatGPT பயனர்களைச் சேர்த்தனர். ஒவ்வொருவரும் தங்கள் வயது, பாலினத்துடன் தங்கள் முழு ChatGPT வரலாற்றையும் ஏற்றுமதி செய்து நன்கொடையாக அளித்தனர்; தனிப்பட்ட விவரங்கள் பதிவேற்றத்துக்கு முன் அவர்களின் சொந்தக் கணினியிலேயே நீக்கப்பட்டன. இதன் மூலம் டிசம்பர் 2022 முதல் பிப்ரவரி 2026 வரையிலான 202,590 உரையாடல்கள் கிடைத்தன; அவற்றில் 15,555 சுகாதாரம் பற்றியவை.

அவற்றை மதிப்பிட, வெளியிடப்பட்ட ஒரு பாதுகாப்பு மதிப்பீட்டு அளவுகோலையும், நடுவராக இன்னொரு நிறுவனத்தின் AI-யையும் — Gemini 3.1 Pro — குழு பயன்படுத்தியது; இதனால் ChatGPT-இன் பதில்களை அதே நிறுவனத்தின் மாதிரி மதிப்பிடவில்லை. ஒவ்வொரு பதிலும் 1 (ஆபத்தானது) முதல் 7 (பாதுகாப்பானது) வரை மதிப்பெண் பெற்றது; 3 அல்லது அதற்குக் கீழ் அதிக ஆபத்தானது எனக் கணக்கிடப்பட்டது. நடுவர் ஒவ்வொரு பதிலையும் இரண்டு முறை மதிப்பிட்டது:

• கண்மூடித்தனமாக, வழக்கமான பாதுகாப்புச் சோதனைகள் செய்வது போல உரையாடலை மட்டும் பார்த்து;
• சூழலுடன், முந்தைய உரையாடல்களில் பயனர் வெளிப்படுத்தியிருந்த நீடித்த சுகாதாரத் தகவல்களை அறிந்து — பதில் அந்த நபருக்குப் பாதுகாப்பானதா என்று கேட்டு.

ஐந்தில் ஒன்று, பெரும்பாலான பயனர்கள்

கண்மூடித்தனமாக மதிப்பிட்டபோது பெரும்பாலான பதில்கள் பாதுகாப்பானவை: இடைநிலை மதிப்பெண் (median) 6. ஆனால் சுமார் ஐந்தில் ஒரு சுகாதார உரையாடல் அதிக ஆபத்தானது — நைஜீரியாவில் 20.6% முதல் பாகிஸ்தானில் 26.3% வரை. மக்கள் மீண்டும் மீண்டும் வருவதால், 51.6% முதல் 61.7% பயனர்கள் குறைந்தது ஓர் அதிக ஆபத்தான பதிலைப் பெற்றனர்.

ஆபத்து மிகவும் மருத்துவம் சார்ந்த கேள்விகளில் குவிந்திருந்தது: நோய்கள், பராமரிப்பு பற்றிய உரையாடல்களில் 40 முதல் 48%, அறிகுறிகள் பற்றியவற்றில் 33 முதல் 40% அதிக ஆபத்தானவை; பொதுவான சுகாதாரத் தகவல்களுக்கு இது சுமார் 8 முதல் 12%.

ஆபத்தான 128 உரையாடல்களைப் படித்த ஆசிரியர்கள், மீண்டும் மீண்டும் வரும் தோல்விகளைக் கண்டனர்: நிபுணரிடம் பரிந்துரைக்காதது, தவறான அல்லது தீங்கான அறிவுரை, பாதுகாப்பற்ற சுய சிகிச்சை அல்லது மருந்தளவு, அரட்டை இயந்திரத்தைச் சார்ந்திருப்பதை ஊக்குவித்தல், ஆபத்தான சுய நோயறிதல். அவர்களின் எடுத்துக்காட்டுகளில் சில:

• நோய்க்கு ஆளான ஒரு கைக்குழந்தைக்கு, வழிகாட்டுதல்களுக்கு மாறாக, காசநோய்ப் பரிசோதனையைத் தவிர்க்கச் சொன்னது;
• கர்ப்பிணிப் பயனருக்கு, சுகாதார நிபுணரை அணுகச் சொல்லாமல் மருந்தளவுகளைக் கொடுத்தது;
• உடற்பயிற்சியின்போது ஏற்படும் நெஞ்சுவலிக்குத் தீங்கற்ற காரணங்களை மட்டுமே பட்டியலிட்டது;
• கடுமையான இரத்தசோகைக்கு (ஹீமோகுளோபின் 6.6) அவசர சிகிச்சைக்குப் பதிலாக உணவுமுறையையும் உடற்பயிற்சியையும் பரிந்துரைத்தது;
• கடுமையான, நீண்டகால மன உளைச்சலில் இருக்கும் ஒருவருக்குத் தன்னையே முதன்மை ஆதரவாக முன்னிறுத்திக்கொண்டது.

கேட்பது யார் என்பது எல்லாவற்றையும் மாற்றுகிறது

பயனரின் வரலாற்றைக் கணக்கில் கொண்டபோது, அதே பதில்கள் மிக மோசமாகத் தோன்றின. அதிக ஆபத்தான பங்கு ஒவ்வொரு நாட்டிலும் 13 முதல் 17 சதவீதப் புள்ளிகள் உயர்ந்தது — இந்தியாவில், இவ்வாறு பகுப்பாய்வு செய்யப்பட்ட உரையாடல்களில் 29%-இலிருந்து 44%-ஆக. நாடுகள் முழுவதும் வியக்கத்தக்க வகையில் மாறாமல் இருந்தது: தனியாகப் பார்க்கும்போது பாதுகாப்பானது என மதிப்பிடப்பட்ட பதில்களில் சுமார் நான்கில் ஒன்று, உண்மையில் கேட்ட நபருக்குப் பாதுகாப்பற்றதாக இருந்தது.

உடற்தகுதிப் பயிற்சி, மிகவும் பாதுகாப்பான தலைப்புகளில் ஒன்றிலிருந்து மிகவும் ஆபத்தானவற்றில் ஒன்றாகப் புரண்டது. குடல் அறுவைச் சிகிச்சை செய்துகொண்டவருக்குக் கனமான வயிற்றுத்தசைப் பயிற்சிகள்; வயிற்றுப்புண் உள்ளவருக்குப் பச்சைப் பூண்டு, எலுமிச்சை நீர், இஞ்சி. இவற்றில் பெரும்பாலான நிகழ்வுகளில், தீங்கைத் தவிர்க்கத் தேவையான தகவல் பயனரின் அரட்டை வரலாற்றில் ஏற்கெனவே இருந்தது என்று ஆசிரியர்கள் எழுதுகின்றனர். மாதிரி அதைத் தொனியையும் உள்ளடக்கத்தையும் தனிப்பயனாக்கப் பயன்படுத்தியது — ஆனால் தன் எச்சரிக்கையுணர்வுக்குப் பயன்படுத்தவில்லை.

புதியது பாதுகாப்பானது அல்ல

ஒவ்வோர் உரையாடலும் பதிலளித்த மாதிரியைப் பதிவு செய்கிறது. கண்மூடித்தனமாக மதிப்பிட்டபோது, அதிக ஆபத்து விகிதம் நான்கு நாடுகளிலும் GPT-3.5 முதல் GPT-4o, GPT-5 வழியாக GPT-5.1 வரை ஒவ்வொரு மேம்படுத்தலிலும் உயர்ந்தது — பிரேசிலில் 6.2%-இலிருந்து 34.6%-ஆக. “mini” பதிப்புகள் முதன்மை மாதிரிகளைவிட ஆபத்தானவை; புதியதான GPT-5.2 இந்தியாவிலும் நைஜீரியாவிலும் குறைந்தது. அடுத்தடுத்த மாதிரிகளில் அதே பயனர்களுக்கும் இந்தப் போக்கு நீடித்தது; இருப்பினும் மாதிரியையும் அது பயன்படுத்தப்பட்ட காலத்தையும் ஆசிரியர்களால் முழுமையாகப் பிரிக்க முடியவில்லை.

ஒரு நடுவர், மருத்துவர் அல்ல

இது எதைக் காட்டுகிறது என்பதில் ஆசிரியர்கள் கவனமாக உள்ளனர். பங்கேற்பாளர்கள், இணையவழித் தற்காலிகப் பணியாளர்களிடமிருந்து எளிதில் கிடைத்த மாதிரி (convenience sample); இந்தியாவிலும் பாகிஸ்தானிலும் இளைஞர்கள், பெரும்பாலும் ஆண்கள் — எனவே இந்த விகிதங்கள் தேசிய எண்ணிக்கைகள் அல்ல. நடுவர் ஒரு AI, மருத்துவர் அல்ல; அது அளப்பது ஆபத்தை, யாருக்கும் ஏற்பட்ட உண்மையான தீங்கை அல்ல. ஆபத்தான உரையாடல்களை ஒரே ஓர் ஆசிரியர் மட்டுமே வகைப்படுத்தினார்.

ஒப்புதலுக்குப் பிறகு மருந்துகளைக் கட்டாயமாகக் கண்காணிக்கும் மருந்துக் கண்காணிப்புடன் (pharmacovigilance) அவர்கள் ஒப்பிடுகின்றனர்: AI சுகாதார அறிவுரைக்கு இன்னும் அதற்கு இணையானது இல்லை. அவர்களுடையது போன்ற ஒப்புதலுடனான தரவு நன்கொடை, முதல் முன்மாதிரியாக இருக்கலாம் — பயனர்களின் சுயவிவரங்களைப் படிக்கும் பாதுகாப்புக் கருவிகள் கண்காணிப்புக் கருவிகளாக மாறாமல் இருக்கும் வரை.