ChatGPT کا صحت سے متعلق ہر پانچواں جواب انتہائی پرخطر قرار

مصنفین بتاتے ہیں کہ ChatGPT کے ہفتہ وار صارفین 70 کروڑ سے زیادہ ہیں، اور صحت کے سوالات اس استعمال کا معمول کا حصہ ہیں۔ اس کا استعمال سب سے تیزی سے کم اور درمیانی آمدنی والے ممالک میں بڑھ رہا ہے، جہاں ڈاکٹر کم ہیں — اس لیے وہاں اے آئی کا جواب پیشہ ورانہ علاج میں اضافہ کرنے کے بجائے اس کی جگہ لینے کا زیادہ امکان رکھتا ہے۔

اس کے باوجود اے آئی کے طبی مشوروں کی حفاظت کے بارے میں جو کچھ بھی معلوم ہے، وہ تقریباً سب فرضی کیسوں سے آتا ہے: معالجین کے لکھے ہوئے مختصر کیس، مصنوعی پرامپٹس، فرضی مریض۔ اور حفاظت اس پر منحصر ہے کہ پوچھ کون رہا ہے۔ روزہ، بھاری وزن اٹھانا یا کوئی گھریلو نسخہ زیادہ تر صحت مند بالغوں کے لیے بے ضرر ہے مگر کسی ایسے شخص کے لیے خطرناک ہے جسے السر ہو، جس کا حال ہی میں آپریشن ہوا ہو، یا جو کھانے کی کسی بیماری (eating disorder) میں مبتلا ہو۔

202,590 عطیہ کی گئی گفتگوئیں

آزاد محققہ شریاسی رائے چودھری اور رٹگرز یونیورسٹی کے کرن گریمیلا نے بھارت، نائیجیریا، برازیل اور پاکستان میں ChatGPT کے 1,252 صارفین کو شامل کیا۔ ہر ایک نے اپنی عمر اور جنس کے ساتھ اپنی مکمل ChatGPT تاریخ ایکسپورٹ کر کے عطیہ کی؛ اپ لوڈ سے پہلے ذاتی تفصیلات ان کے اپنے کمپیوٹر پر ہی ہٹا دی گئیں۔ یوں دسمبر 2022 سے فروری 2026 تک کی 202,590 گفتگوئیں جمع ہوئیں، جن میں سے 15,555 صحت کے بارے میں تھیں۔

ان کی درجہ بندی کے لیے ٹیم نے ایک شائع شدہ حفاظتی معیار اور منصف کے طور پر ایک دوسری کمپنی کی اے آئی — Gemini 3.1 Pro — استعمال کی، تاکہ ChatGPT کے جوابات کو اسی کمپنی کا ماڈل نمبر نہ دے۔ ہر جواب کو 1 (خطرناک) سے 7 (محفوظ) تک نمبر ملا؛ 3 یا اس سے کم کو انتہائی پرخطر شمار کیا گیا۔ منصف نے ہر جواب کو دو بار جانچا:

اندھا دھند، صرف اسی گفتگو کو دیکھ کر، جیسا کہ معیاری حفاظتی جانچ میں ہوتا ہے؛
سیاق و سباق کے ساتھ، یہ جانتے ہوئے کہ صارف نے پچھلی گفتگوؤں میں صحت کی کون سی پائیدار معلومات ظاہر کی تھیں — اور یہ پوچھتے ہوئے کہ کیا جواب اس شخص کے لیے محفوظ تھا۔

ہر پانچواں، اور زیادہ تر صارفین

اندھا دھند جانچ میں زیادہ تر جوابات محفوظ تھے: درمیانی نمبر (median) 6 تھا۔ لیکن صحت کی تقریباً ہر پانچویں گفتگو انتہائی پرخطر تھی — نائیجیریا میں 20.6% سے لے کر پاکستان میں 26.3% تک۔ اور چونکہ لوگ بار بار واپس آتے ہیں، 51.6% سے 61.7% صارفین کو کم از کم ایک انتہائی پرخطر جواب ملا۔

خطرہ سب سے زیادہ طبی نوعیت کے سوالات میں مرکوز تھا: بیماریوں اور علاج سے متعلق 40 سے 48% گفتگوئیں، اور علامات سے متعلق 33 سے 40%، انتہائی پرخطر تھیں، جبکہ صحت کی عمومی معلومات میں یہ شرح تقریباً 8 سے 12% تھی۔

128 پرخطر گفتگوئیں پڑھ کر مصنفین کو بار بار ہونے والی ناکامیاں ملیں: کسی ماہر کے پاس نہ بھیجنا، غلط یا نقصان دہ مشورہ، غیر محفوظ خود علاجی یا خوراک، چیٹ بوٹ پر انحصار کی حوصلہ افزائی، اور پرخطر خود تشخیصی۔ ان کی مثالوں میں شامل ہیں:

رہنما اصولوں کے برخلاف، تپ دق کی زد میں آئے ایک شیر خوار بچے کی ٹی بی اسکریننگ سے منع کرنا؛
ایک حاملہ صارف کو کسی معالج سے مشورہ کرنے کا کہے بغیر دواؤں کی خوراکیں بتانا؛
ورزش کے دوران سینے میں درد کی صرف بے ضرر وجوہات گنوانا؛
شدید خون کی کمی (ہیموگلوبن 6.6) کے لیے فوری علاج کے بجائے غذا اور ورزش تجویز کرنا؛
شدید اور طویل ذہنی پریشانی میں مبتلا کسی شخص کے لیے خود کو بنیادی سہارا بنا کر پیش کرنا۔

پوچھنے والا کون ہے، اس سے سب کچھ بدل جاتا ہے

صارف کی تاریخ سامنے ہونے پر وہی جوابات کہیں زیادہ برے نظر آئے۔ ہر ملک میں انتہائی پرخطر جوابات کا حصہ 13 سے 17 فیصدی پوائنٹس بڑھ گیا — بھارت میں اس طرح جانچی گئی گفتگوؤں میں 29% سے 44% تک۔ تمام ممالک میں حیران کن حد تک یکساں: الگ تھلگ دیکھنے پر محفوظ قرار دیے گئے ہر چار میں سے تقریباً ایک جواب اس شخص کے لیے غیر محفوظ تھا جس نے حقیقت میں سوال پوچھا تھا۔

فٹنس کی رہنمائی سب سے محفوظ موضوعات میں سے ایک سے پلٹ کر سب سے پرخطر موضوعات میں سے ایک بن گئی۔ آنتوں کا آپریشن کروانے والے شخص کے لیے پیٹ کی بھاری ورزشیں؛ معدے کے السر والے شخص کے لیے کچا لہسن، لیموں پانی اور ادرک۔ مصنفین لکھتے ہیں کہ ان میں سے زیادہ تر معاملات میں نقصان سے بچنے کے لیے درکار معلومات پہلے ہی صارف کی چیٹ کی تاریخ میں موجود تھیں۔ ماڈل نے انہیں لہجے اور مواد کو ذاتی بنانے کے لیے تو استعمال کیا — مگر اپنی احتیاط کو نہیں۔

نیا ہونا زیادہ محفوظ ہونا نہیں تھا

ہر گفتگو میں درج ہوتا ہے کہ جواب کس ماڈل نے دیا۔ اندھا دھند جانچ میں چاروں ممالک میں GPT-3.5 سے GPT-4o اور GPT-5 سے ہوتے ہوئے GPT-5.1 تک ہر اپ گریڈ کے ساتھ انتہائی پرخطر جوابات کی شرح بڑھی — برازیل میں 6.2% سے 34.6% تک۔ “mini” ورژن مرکزی ماڈلز سے زیادہ پرخطر تھے؛ سب سے نیا، GPT-5.2، بھارت اور نائیجیریا میں پھر نیچے آیا۔ یہ رجحان مسلسل ماڈلز میں انہی صارفین کے لیے بھی برقرار رہا، اگرچہ مصنفین ماڈل کو اس کے استعمال کے وقت سے پوری طرح الگ نہیں کر سکتے۔

منصف، ڈاکٹر نہیں

مصنفین اس بارے میں محتاط ہیں کہ یہ کیا ثابت کرتا ہے۔ شرکاء آن لائن عارضی کام کرنے والوں (gig workers) کا ایک سہولت پر مبنی نمونہ ہیں، جو جوان ہیں اور بھارت اور پاکستان میں زیادہ تر مرد ہیں، اس لیے یہ شرحیں قومی اعداد و شمار نہیں ہیں۔ منصف ایک اے آئی ہے، کوئی معالج نہیں، اور یہ خطرے کی پیمائش کرتا ہے، کسی کو پہنچنے والے حقیقی نقصان کی نہیں۔ پرخطر گفتگوؤں کی کوڈنگ ایک ہی مصنف نے کی۔

وہ فارماکو ویجیلنس سے موازنہ کرتے ہیں، یعنی منظوری کے بعد دواؤں کی لازمی نگرانی: اے آئی کے طبی مشوروں کے لیے ابھی ایسا کوئی نظام نہیں۔ رضامندی سے ڈیٹا کا عطیہ، جیسا کہ ان کا ہے، ایک پہلا نمونہ ہو سکتا ہے — بشرطیکہ صارفین کے پروفائل پڑھنے والے حفاظتی آلات نگرانی میں نہ بدل جائیں۔