إجابة من كل خمس إجابات صحية لـChatGPT مصنَّفة عالية الخطورة

يشير المؤلفان إلى أن لـChatGPT أكثر من 700 مليون مستخدم أسبوعيًا، وأن الأسئلة الصحية جزء معتاد من هذا الاستخدام. وينمو الإقبال عليه بأسرع وتيرة في البلدان المنخفضة والمتوسطة الدخل، حيث يندر الأطباء — ولذلك يُرجَّح أن تحلّ إجابة الذكاء الاصطناعي محلّ الرعاية المهنية بدلًا من أن تُضاف إليها.

ومع ذلك، فإن كل ما نعرفه تقريبًا عن سلامة النصائح الصحية للذكاء الاصطناعي يأتي من حالات مختلَقة: سيناريوهات كتبها أطباء، وموجِّهات اصطناعية، ومرضى افتراضيون. والسلامة تتوقف على من يسأل. فالصيام، أو رفع الأثقال، أو علاج منزلي، أمور غير ضارة لمعظم البالغين الأصحاء، لكنها خطرة على شخص مصاب بقرحة أو خضع لجراحة حديثة أو يعاني اضطرابًا في الأكل.

202,590 محادثة متبرَّع بها

جنّدت شرياسي روي تشودري، الباحثة المستقلة، وكيران غاريميلا، من جامعة روتغرز، 1,252 مستخدمًا لـChatGPT في الهند ونيجيريا والبرازيل وباكستان. صدّر كلٌّ منهم سجلّه الكامل في ChatGPT وتبرّع به، مع عمره وجنسه؛ وحُذفت البيانات الشخصية على حاسوبه الخاص قبل الرفع. فتجمّعت 202,590 محادثة بين ديسمبر 2022 وفبراير 2026، منها 15,555 محادثة تتعلق بالصحة.

لتقييمها، استخدم الفريق معيارًا منشورًا للسلامة، وذكاءً اصطناعيًا من مزوّد آخر حَكَمًا — Gemini 3.1 Pro — كي لا تُقيَّم إجابات ChatGPT بنموذج من الشركة نفسها. ونالت كل إجابة درجة من 1 (خطرة) إلى 7 (آمنة)؛ وعُدّت الدرجة 3 فما دون عالية الخطورة. وقيّم الحَكَم كل إجابة مرتين:

تقييمًا أعمى، بالنظر إلى المحادثة وحدها، كما تفعل اختبارات السلامة المعتادة؛
تقييمًا بالسياق، مع معرفة المعلومات الصحية الدائمة التي كشفها المستخدم في محادثات سابقة — والتساؤل عمّا إذا كانت الإجابة آمنة لهذا الشخص تحديدًا.

واحدة من كل خمس، ومعظم المستخدمين

في التقييم الأعمى، كانت معظم الإجابات آمنة: بلغت الدرجة الوسيطة 6. لكن نحو محادثة صحية من كل خمس كانت عالية الخطورة — من 20.6% في نيجيريا إلى 26.3% في باكستان. ولأن الناس يعودون مرارًا، تلقّى ما بين 51.6% و61.7% من المستخدمين إجابة واحدة على الأقل عالية الخطورة.

وتركّز الخطر في الأسئلة الأكثر طابعًا سريريًا: كانت 40 إلى 48% من المحادثات المتعلقة بالأمراض والعلاج، و33 إلى 40% من المتعلقة بالأعراض، عالية الخطورة، مقابل نحو 8 إلى 12% للمعلومات الصحية العامة.

وبقراءة 128 محادثة خطرة، وجد المؤلفان إخفاقات متكررة: غياب الإحالة إلى مختص، ونصائح خاطئة أو ضارة، وعلاج ذاتي أو جرعات غير آمنة، وتشجيع الاعتماد على روبوت المحادثة، وتشخيص ذاتي محفوف بالمخاطر. ومن أمثلتهما:

ثنيٌ عن فحص السل لرضيع تعرّض للمرض، خلافًا للإرشادات الطبية؛
إعطاء جرعات أدوية لمستخدمة حامل دون نصحها باستشارة مقدّم رعاية صحية؛
الاقتصار على ذكر أسباب غير ضارة لألم في الصدر أثناء التمرين؛
التوصية بالحمية والتمارين لفقر دم حاد (هيموغلوبين 6.6) بدلًا من الرعاية العاجلة؛
تقديم نفسه بوصفه السند الرئيسي لشخص يعاني ضائقة نفسية حادة وطويلة الأمد.

هوية السائل تغيّر كل شيء

حين وُضع سجل المستخدم في الحسبان، بدت الإجابات نفسها أسوأ بكثير. ارتفعت نسبة الخطورة العالية بمقدار 13 إلى 17 نقطة مئوية في كل بلد — في الهند، من 29% إلى 44% من المحادثات التي حُللت بهذه الطريقة. واللافت ثبات النتيجة بين البلدان: نحو إجابة من كل أربع إجابات صُنّفت آمنة بمعزل عن السياق كانت غير آمنة للشخص الذي سأل فعلًا.

وانقلب التدريب البدني من أكثر المواضيع أمانًا إلى أكثرها خطورة. تمارين بطن شاقة لشخص خضع لجراحة في الأمعاء؛ وثوم نيء وماء بالليمون وزنجبيل لشخص مصاب بقرحة في المعدة. ويكتب المؤلفان أن المعلومات اللازمة لتجنب الضرر كانت، في معظم هذه الحالات، موجودة أصلًا في سجل محادثات المستخدم. واستخدمها النموذج لتكييف النبرة والمحتوى — لكن لا لتكييف حذره.

الأحدث لم يكن الأكثر أمانًا

تسجّل كل محادثة النموذج الذي أجاب. وفي التقييم الأعمى، ارتفع معدل الخطورة العالية مع كل تحديث من GPT-3.5 مرورًا بـGPT-4o وGPT-5 وصولًا إلى GPT-5.1، في البلدان الأربعة جميعها — في البرازيل، من 6.2% إلى 34.6%. وكانت النسخ «mini» أكثر خطورة من النماذج الرئيسية؛ أما الأحدث، GPT-5.2، فتراجع في الهند ونيجيريا. وصمد هذا الاتجاه لدى المستخدمين أنفسهم عبر نماذج متعاقبة، وإن كان المؤلفان لا يستطيعان الفصل تمامًا بين النموذج والفترة التي استُخدم فيها.

حَكَم لا طبيب

يتوخى المؤلفان الحذر بشأن ما يثبته هذا. فالمشاركون عيّنة ملائمة من عمّال المنصات الرقمية، شباب وأغلبهم ذكور في الهند وباكستان، لذا فالنسب ليست أرقامًا وطنية. والحَكَم ذكاء اصطناعي لا طبيب، وهو يقيس الخطر لا الضرر الفعلي الذي لحق بأحد. وقد رمّز المحادثاتِ الخطرة مؤلفٌ واحد.

ويعقدان مقارنة مع اليقظة الدوائية، أي المراقبة الإلزامية للأدوية بعد الموافقة عليها: فلا مقابل لها بعدُ في النصائح الصحية للذكاء الاصطناعي. ويمكن أن يكون التبرع بالبيانات بالموافقة، كما فعلا، نموذجًا أوليًا أول — شرط ألا تتحول أدوات السلامة التي تقرأ ملفات المستخدمين إلى أدوات مراقبة.