ChatGPT च्या आरोग्यविषयक उत्तरांपैकी पाचातील एक उत्तर उच्च-धोक्याचे

लेखक नमूद करतात की ChatGPT चे दर आठवड्याला 70 कोटींहून अधिक वापरकर्ते आहेत, आणि आरोग्यविषयक प्रश्न हा त्या वापराचा नेहमीचा भाग आहे. त्याचा स्वीकार सर्वात वेगाने कमी आणि मध्यम उत्पन्नाच्या देशांमध्ये वाढतो आहे, जिथे डॉक्टरांची कमतरता आहे — त्यामुळे तिथे एआयचे उत्तर व्यावसायिक उपचारांना पूरक ठरण्यापेक्षा त्यांची जागा घेण्याची शक्यता जास्त आहे.

तरीही एआयच्या आरोग्य सल्ल्याच्या सुरक्षिततेबद्दल माहीत असलेले जवळजवळ सर्व काही काल्पनिक प्रकरणांवरून आले आहे: डॉक्टरांनी लिहिलेली प्रकरण-वर्णने, कृत्रिम प्रॉम्प्ट्स, अनुकरण केलेले रुग्ण. आणि सुरक्षितता विचारणारा कोण आहे यावर अवलंबून असते. उपवास, जड वजने उचलणे किंवा एखादा घरगुती उपाय बहुतेक निरोगी प्रौढांसाठी निरुपद्रवी असतो, पण अल्सर, अलीकडची शस्त्रक्रिया किंवा खाण्याचा विकार (eating disorder) असलेल्या व्यक्तीसाठी धोकादायक.

दान केलेली 2,02,590 संभाषणे

स्वतंत्र संशोधक श्रेयसी रॉय चौधरी आणि रटगर्स युनिव्हर्सिटीचे किरण गरिमेल्ला यांनी भारत, नायजेरिया, ब्राझील आणि पाकिस्तानमधील 1,252 ChatGPT वापरकर्त्यांना सहभागी करून घेतले. प्रत्येकाने आपला संपूर्ण ChatGPT इतिहास निर्यात करून, आपले वय आणि लिंग यांसह दान केला; अपलोड करण्यापूर्वी वैयक्तिक तपशील त्यांच्याच संगणकावर काढून टाकले गेले. यातून डिसेंबर 2022 ते फेब्रुवारी 2026 दरम्यानची 2,02,590 संभाषणे मिळाली, त्यांपैकी 15,555 आरोग्याविषयी होती.

त्यांचे मूल्यमापन करण्यासाठी संघाने एक प्रकाशित सुरक्षितता निकष-पत्रक आणि दुसऱ्या कंपनीचा एआय — Gemini 3.1 Pro — परीक्षक म्हणून वापरला, जेणेकरून ChatGPT ची उत्तरे त्याच कंपनीच्या मॉडेलकडून तपासली जाऊ नयेत. प्रत्येक उत्तराला 1 (धोकादायक) ते 7 (सुरक्षित) असे गुण दिले गेले; 3 किंवा त्याहून कमी गुण उच्च-धोक्याचे मानले गेले. परीक्षकाने प्रत्येक उत्तर दोनदा तपासले:

अंधपणे, फक्त ते संभाषण पाहून, जसे मानक सुरक्षितता चाचण्यांमध्ये केले जाते;
संदर्भासह, वापरकर्त्याने आधीच्या संभाषणांमध्ये उघड केलेली टिकाऊ आरोग्यविषयक माहिती जाणून — आणि ते उत्तर त्या व्यक्तीसाठी सुरक्षित होते का, असे विचारून.

पाचातील एक, आणि बहुतेक वापरकर्ते

अंधपणे गुण दिल्यावर बहुतेक उत्तरे सुरक्षित होती: मध्यगा गुण 6 होता. पण सुमारे पाचातील एक आरोग्यविषयक संभाषण उच्च-धोक्याचे होते — नायजेरियामध्ये 20.6% पासून पाकिस्तानमध्ये 26.3% पर्यंत. आणि लोक पुन्हा पुन्हा परत येत असल्याने, 51.6% ते 61.7% वापरकर्त्यांना किमान एक उच्च-धोक्याचे उत्तर मिळाले.

धोका सर्वाधिक वैद्यकीय स्वरूपाच्या प्रश्नांमध्ये एकवटलेला होता: आजार आणि उपचारांविषयीच्या 40 ते 48% संभाषणांमध्ये, आणि लक्षणांविषयीच्या 33 ते 40% संभाषणांमध्ये उच्च धोका होता, तर सामान्य आरोग्य माहितीसाठी हे प्रमाण सुमारे 8 ते 12% होते.

128 धोकादायक संभाषणे वाचल्यावर लेखकांना वारंवार घडणाऱ्या चुका आढळल्या: व्यावसायिकाकडे पाठवण्याचा सल्ला नाही, चुकीचा किंवा हानिकारक सल्ला, असुरक्षित स्व-उपचार किंवा डोस, चॅटबॉटवरील अवलंबित्वाला प्रोत्साहन, आणि धोकादायक स्व-निदान. त्यांच्या उदाहरणांमध्ये हे आहे:

क्षयरोगाच्या संपर्कात आलेल्या अर्भकाची क्षयरोग तपासणी करण्यापासून, मार्गदर्शक तत्त्वांच्या विरुद्ध, परावृत्त करणे;
गर्भवती वापरकर्तीला औषधांचे डोस देणे, पण आरोग्य व्यावसायिकाचा सल्ला घेण्यास न सांगणे;
व्यायामादरम्यान छातीत दुखण्याची फक्त निरुपद्रवी कारणे सांगणे;
तीव्र ॲनिमियासाठी (हिमोग्लोबिन 6.6) तातडीच्या उपचारांऐवजी आहार आणि व्यायामाची शिफारस करणे;
तीव्र, दीर्घकालीन मानसिक त्रासात असलेल्या व्यक्तीसाठी स्वतःलाच मुख्य आधार म्हणून सादर करणे.

विचारणारा कोण, यावर सर्व काही बदलते

वापरकर्त्याचा इतिहास लक्षात घेतल्यावर तीच उत्तरे खूपच वाईट दिसली. प्रत्येक देशात उच्च-धोक्याचे प्रमाण 13 ते 17 टक्के गुणांनी वाढले — भारतात, अशा प्रकारे विश्लेषण केलेल्या संभाषणांपैकी 29% वरून 44% पर्यंत. सर्व देशांमध्ये विलक्षण स्थिर राहिलेली गोष्ट: स्वतंत्रपणे पाहता सुरक्षित ठरलेल्या उत्तरांपैकी सुमारे चारातील एक उत्तर, प्रत्यक्ष विचारणाऱ्या व्यक्तीसाठी असुरक्षित होते.

फिटनेस प्रशिक्षण हा सर्वात सुरक्षित विषयांपैकी एक असण्यापासून सर्वात धोकादायक विषयांपैकी एक बनला. आतड्याची शस्त्रक्रिया झालेल्या व्यक्तीसाठी पोटाच्या स्नायूंचे जड व्यायाम; पोटात अल्सर असलेल्या व्यक्तीसाठी कच्चा लसूण, लिंबूपाणी आणि आले. लेखक लिहितात की यांपैकी बहुतेक प्रकरणांमध्ये हानी टाळण्यासाठी लागणारी माहिती वापरकर्त्याच्या चॅट इतिहासात आधीच होती. मॉडेलने तिचा वापर स्वर आणि मजकूर अनुरूप करण्यासाठी केला — पण सावधगिरीसाठी नाही.

नवीन म्हणजे अधिक सुरक्षित नव्हे

प्रत्येक संभाषणात उत्तर देणाऱ्या मॉडेलची नोंद असते. अंधपणे गुण दिल्यावर, उच्च-धोक्याचे प्रमाण GPT-3.5 पासून GPT-4o, GPT-5 आणि GPT-5.1 पर्यंत प्रत्येक सुधारित आवृत्तीसोबत वाढले, चारही देशांमध्ये — ब्राझीलमध्ये 6.2% वरून 34.6% पर्यंत. “mini” आवृत्त्या मुख्य आवृत्त्यांपेक्षा अधिक धोकादायक होत्या; सर्वात नवीन GPT-5.2 मध्ये भारत आणि नायजेरियात हे प्रमाण पुन्हा घटले. हा कल लागोपाठच्या मॉडेल्समध्ये त्याच वापरकर्त्यांसाठीही टिकून राहिला, जरी लेखक मॉडेलचा परिणाम आणि ते ज्या काळात वापरले गेले त्याचा परिणाम पूर्णपणे वेगळे करू शकत नाहीत.

परीक्षक, डॉक्टर नव्हे

हे काय दाखवते याबाबत लेखक काळजीपूर्वक बोलतात. सहभागी हे ऑनलाइन गिग कामगारांमधून सोयीनुसार निवडलेला नमुना आहेत, भारत आणि पाकिस्तानमध्ये तरुण आणि बहुतांश पुरुष, त्यामुळे ही प्रमाणे राष्ट्रीय आकडेवारी नाहीत. परीक्षक हा एआय आहे, डॉक्टर नाही, आणि तो धोका मोजतो, कोणाला प्रत्यक्ष झालेली हानी नाही. धोकादायक संभाषणांचे वर्गीकरण एकाच लेखकाने केले.

ते फार्माकोव्हिजिलन्सशी (pharmacovigilance) तुलना करतात, म्हणजे मान्यता मिळाल्यानंतर औषधांवर ठेवली जाणारी अनिवार्य देखरेख: एआयच्या आरोग्य सल्ल्यासाठी अद्याप अशी कोणतीही व्यवस्था नाही. त्यांच्यासारखे संमतीने केलेले डेटा दान हा पहिला नमुना ठरू शकतो — मात्र वापरकर्त्यांची प्रोफाइल वाचणारी सुरक्षितता साधने पाळत ठेवण्याच्या साधनांमध्ये बदलू नयेत, या अटीवर.