ChatGPT دے صحت والے ہر پنج جواباں وچوں اک بہت خطرناک قرار

لکھاری دسدے نیں پئی ChatGPT دے ہر ہفتے 70 کروڑ توں ودھ ورتن والے نیں، تے صحت بارے سوال ایس ورتوں دا عام حصہ نیں۔ ایہدا ورتارا سب توں تیز گھٹ تے درمیانی آمدن والے ملکاں وچ ودھ رہیا اے، جتھے ڈاکٹر گھٹ نیں — ایس لئی اے آئی دا جواب ماہر دی دیکھ بھال نال رلن دی تھاں اوہدی تھاں لین دا ودھ امکان رکھدا اے۔

فیر وی اے آئی دے صحت والے مشورے دی حفاظت بارے جو کجھ پتا اے، اوہ تقریباً سارا گھڑے ہوئے کیساں توں آیا اے: ڈاکٹراں دیاں لکھیاں نکیاں کہانیاں، بناوٹی ہدایتاں، نقلی مریض۔ تے حفاظت ایس گل اُتے ٹکی اے پئی پچھن والا کون اے۔ روزہ رکھنا، بھارا وزن چکنا یا کوئی گھریلو ٹوٹکا بہتے تندرست بالغاں لئی بے ضرر اے، تے اوس بندے لئی خطرناک جیہنوں معدے دا زخم ہووے، نواں نواں اپریشن ہویا ہووے یا کھان پین دی بیماری ہووے۔

دتیاں گئیاں 202,590 گل باتاں

آزاد کھوجی Shreyasi Roy Chowdhury تے Rutgers University دے Kiran Garimella نے بھارت، نائجیریا، برازیل تے پاکستان وچ ChatGPT دے 1,252 ورتن والے بھرتی کیتے۔ ہر اک نے اپنی عمر تے جنس دے نال اپنی پوری ChatGPT تاریخ کڈھ کے دے دتی؛ ذاتی تفصیلاں اپلوڈ توں پہلاں اوہناں دے اپنے کمپیوٹر اُتے ای مٹا دتیاں گئیاں۔ ایہدے نال دسمبر 2022 توں فروری 2026 تیک دیاں 202,590 گل باتاں ملیاں، جنہاں وچوں 15,555 صحت بارے سن۔

اوہناں نوں نمبر دین لئی ٹیم نے اک چھپیا ہویا حفاظتی پیمانہ ورتیا تے جج دے طور اُتے کسے ہور کمپنی دی اے آئی — Gemini 3.1 Pro — تاں جے ChatGPT دے جواباں نوں اوسے کمپنی دا ماڈل نمبر نہ دیوے۔ ہر جواب نوں 1 (خطرناک) توں 7 (محفوظ) تیک نمبر ملیا؛ 3 یا اوہدے توں گھٹ نوں بہت خطرناک گنیا گیا۔ جج نے ہر جواب نوں دو واری نمبر دتے:

• انھے واہ، صرف گل بات ویکھ کے، جیویں عام حفاظتی پرکھاں کردیاں نیں؛
• پچھوکڑ نال، اوہ پکی صحت والی جانکاری جاندیاں ہویاں جیہڑی ورتن والے نے پہلیاں گل باتاں وچ دسی سی — تے ایہ پچھدیاں ہویاں پئی جواب اوس بندے لئی محفوظ سی یا نہیں۔

پنجاں وچوں اک، تے بہتے ورتن والے

انھے واہ نمبراں نال بہتے جواب محفوظ سن: وچکارلا نمبر (median) 6 سی۔ پر صحت دی ہر پنجویں گل بات دے لگ بھگ بہت خطرناک سی — نائجیریا وچ 20.6% توں پاکستان وچ 26.3% تیک۔ تے کیوں جے لوک مڑ مڑ آؤندے نیں، 51.6% توں 61.7% ورتن والیاں نوں گھٹو گھٹ اک بہت خطرناک جواب ملیا۔

خطرہ سب توں ودھ علاج والے سوالاں وچ سی: بیماریاں تے دیکھ بھال بارے 40 توں 48% گل باتاں، تے علامتاں بارے 33 توں 40%، بہت خطرناک سن، جدکہ صحت دی عام جانکاری وچ ایہ لگ بھگ 8 توں 12% سی۔

128 خطرناک گل باتاں پڑھ کے لکھاریاں نوں بار بار آؤن والیاں غلطیاں لبھیاں: کسے ماہر کول نہ گھلنا، غلط یا نقصان والا مشورہ، غیر محفوظ اپنا علاج یا دوائی دی مقدار، چیٹ بوٹ اُتے انحصار نوں ہلا شیری دینا، تے خطرناک اپنی تشخیص۔ اوہناں دیاں مثالاں وچ ایہ شامل نیں:

• بیماری دے سامنے آئے اک نکے بال لئی ٹی بی دی جانچ توں روکنا، ہدایتاں دے الٹ؛
• اک حاملہ ورتن والی نوں دوائیاں دیاں مقداراں دسنا، کسے طبی ماہر نال گل کرن دے مشورے بنا؛
• ورزش دوران چھاتی دے درد دیاں صرف بے ضرر وجہاں گنوانا؛
• شدید خون دی کمی (ہیموگلوبن 6.6) لئی فوری علاج دی تھاں خوراک تے ورزش دا مشورہ دینا؛
• لمبی تے شدید ذہنی پریشانی وچ پھسے بندے لئی اپنے آپ نوں مکھ سہارا بنا کے پیش کرنا۔

پچھن والا کون اے، ایہ سب کجھ بدل دیندا اے

ورتن والے دی تاریخ سامنے ہوون نال اوہی جواب کتے بھیڑے لگے۔ بہت خطرناک دا حصہ ہر ملک وچ 13 توں 17 فیصد پوائنٹ ودھیا — بھارت وچ، ایس طرحاں پرکھیاں گل باتاں دے 29% توں 44% تیک۔ ملکاں وچ حیران کن حد تیک اکو جہی گل: کلّے ویکھے جان اُتے محفوظ قرار دتے گئے جواباں وچوں لگ بھگ ہر چوتھا، اوس بندے لئی غیر محفوظ سی جیہنے اصل وچ سوال پچھیا سی۔

فٹنس دی کوچنگ سب توں محفوظ موضوعاں وچوں اک توں سب توں خطرناک وچوں اک بن گئی۔ آنتاں دے اپریشن والے بندے لئی ڈھڈ دیاں بھاریاں ورزشاں؛ معدے دے زخم والے لئی کچا تھوم، لیموں پانی تے ادرک۔ لکھاری لکھدے نیں پئی ایہناں وچوں بہتے کیساں وچ نقصان توں بچن لئی لوڑی جانکاری پہلاں ای ورتن والے دی گل بات دی تاریخ وچ موجود سی۔ ماڈل نے اوہ لہجے تے مواد نوں ذاتی بناؤن لئی ورتی — پر اپنی احتیاط لئی نہیں۔

نواں، ودھ محفوظ نہیں سی

ہر گل بات وچ اوہ ماڈل درج ہوندا اے جیہنے جواب دتا۔ انھے واہ نمبراں نال بہت خطرناک دی شرح چاراں ملکاں وچ GPT-3.5 توں GPT-4o تے GPT-5 راہیں GPT-5.1 تیک ہر نویں ورژن نال ودھی — برازیل وچ 6.2% توں 34.6% تیک۔ “mini” ورژن وڈے ماڈلاں توں ودھ خطرناک سن؛ سب توں نواں، GPT-5.2، بھارت تے نائجیریا وچ تھوڑا پچھے آیا۔ ایہ رجحان اکو ورتن والیاں لئی لگاتار ماڈلاں وچ وی رہیا، بھانویں لکھاری ماڈل نوں اوس ویلے توں پوری طرحاں وکھرا نہیں کر سکدے جدوں اوہ ورتیا گیا۔

جج، ڈاکٹر نہیں

لکھاری دھیان نال دسدے نیں پئی ایہ کیہ وکھاندا اے۔ شریک لوک آن لائن عارضی کم (gig) کرن والیاں دا سوکھا لبھیا نمونہ (convenience sample) نیں، بھارت تے پاکستان وچ جوان تے بہتے بندے، ایس لئی ایہ شرحاں قومی انکڑے نہیں۔ جج اک اے آئی اے، ڈاکٹر نہیں، تے ایہ خطرہ ناپدا اے، کسے نوں ہوئے اصل نقصان نوں نہیں۔ خطرناک گل باتاں نوں اکو لکھاری نے درجہ بند کیتا۔

اوہ فارماکو ویجیلنس (pharmacovigilance) نال مثال دیندے نیں، یعنی منظوری پچھوں دوائیاں دی لازمی نگرانی: اے آئی دے صحت والے مشورے لئی اجے ایہو جہی کوئی شے نہیں۔ رضامندی نال ڈیٹا دینا، اوہناں والے طریقے ورگا، اک پہلا نمونہ بن سکدا اے — شرط ایہ اے پئی ورتن والیاں دے پروفائل پڑھن والے حفاظتی اوزار جاسوسی نہ بن جان۔