ChatGPT-এর স্বাস্থ্য-উত্তরের প্রতি পাঁচটির একটি উচ্চ-ঝুঁকিপূর্ণ

লেখকেরা উল্লেখ করেছেন, ChatGPT-এর সাপ্তাহিক ব্যবহারকারী ৭০ কোটিরও বেশি, আর স্বাস্থ্য-প্রশ্ন সেই ব্যবহারের একটি নিয়মিত অংশ। নিম্ন ও মধ্যম আয়ের দেশগুলোতে, যেখানে চিকিৎসকের অভাব, এর ব্যবহার সবচেয়ে দ্রুত বাড়ছে — তাই সেখানে AI-এর উত্তর পেশাদার চিকিৎসার সঙ্গে যোগ হওয়ার চেয়ে তার জায়গা নিয়ে নেওয়ার সম্ভাবনাই বেশি।

তবু AI-এর স্বাস্থ্য-পরামর্শের নিরাপত্তা নিয়ে যা কিছু জানা আছে তার প্রায় সবই আসে বানানো ঘটনা থেকে: চিকিৎসকদের লেখা কাল্পনিক দৃশ্যপট, কৃত্রিম প্রম্পট, অনুকৃত রোগী। অথচ নিরাপত্তা নির্ভর করে কে প্রশ্ন করছেন তার ওপর। উপবাস, ভারী ওজন তোলা বা কোনো ঘরোয়া টোটকা বেশির ভাগ সুস্থ প্রাপ্তবয়স্কের জন্য নিরীহ, কিন্তু আলসার, সাম্প্রতিক অস্ত্রোপচার বা খাদ্যাভ্যাসজনিত ব্যাধি আছে এমন কারও জন্য বিপজ্জনক।

দান করা ২,০২,৫৯০টি কথোপকথন

স্বাধীন গবেষক শ্রেয়সী রায় চৌধুরী এবং রাটগার্স বিশ্ববিদ্যালয়ের কিরণ গরিমেলা ভারত, নাইজেরিয়া, ব্রাজিল ও পাকিস্তানে ১,২৫২ জন ChatGPT ব্যবহারকারীকে যুক্ত করেছেন। প্রত্যেকে তাঁদের সম্পূর্ণ ChatGPT ইতিহাস, বয়স ও লিঙ্গসহ, এক্সপোর্ট করে দান করেছেন; আপলোডের আগেই তাঁদের নিজেদের কম্পিউটারে ব্যক্তিগত তথ্য মুছে ফেলা হয়েছে। এভাবে ডিসেম্বর ২০২২ থেকে ফেব্রুয়ারি ২০২৬ পর্যন্ত ২,০২,৫৯০টি কথোপকথন পাওয়া গেছে, যার মধ্যে ১৫,৫৫৫টি ছিল স্বাস্থ্য নিয়ে।

মূল্যায়নের জন্য দলটি একটি প্রকাশিত নিরাপত্তা-মানদণ্ড আর বিচারক হিসেবে অন্য একটি প্রতিষ্ঠানের AI — Gemini 3.1 Pro — ব্যবহার করেছে, যাতে ChatGPT-এর উত্তরকে একই কোম্পানির মডেল নম্বর না দেয়। প্রতিটি উত্তর ১ (বিপজ্জনক) থেকে ৭ (নিরাপদ) পর্যন্ত নম্বর পেয়েছে; ৩ বা তার কম ধরা হয়েছে উচ্চ-ঝুঁকিপূর্ণ। বিচারক প্রতিটি উত্তরকে দুবার নম্বর দিয়েছে:

অন্ধভাবে, কেবল কথোপকথনটি দেখে, যেমনটা প্রচলিত নিরাপত্তা-পরীক্ষা করে;
প্রসঙ্গসহ, ব্যবহারকারী আগের কথোপকথনে স্বাস্থ্য নিয়ে যে স্থায়ী তথ্য জানিয়েছিলেন তা জেনে — আর প্রশ্ন করে যে উত্তরটি ওই মানুষটির জন্য নিরাপদ কি না।

পাঁচটির একটি, আর বেশির ভাগ ব্যবহারকারী

অন্ধভাবে নম্বর দিলে বেশির ভাগ উত্তর নিরাপদ ছিল: মধ্যমা নম্বর ৬। কিন্তু স্বাস্থ্য নিয়ে প্রায় প্রতি পাঁচটি কথোপকথনের একটি ছিল উচ্চ-ঝুঁকিপূর্ণ — নাইজেরিয়ায় ২০.৬% থেকে পাকিস্তানে ২৬.৩%। আর মানুষ যেহেতু বারবার ফিরে আসেন, ৫১.৬% থেকে ৬১.৭% ব্যবহারকারী অন্তত একটি উচ্চ-ঝুঁকিপূর্ণ উত্তর পেয়েছেন।

ঝুঁকি কেন্দ্রীভূত ছিল সবচেয়ে চিকিৎসা-ঘনিষ্ঠ প্রশ্নগুলোতে: রোগ ও চিকিৎসা নিয়ে ৪০ থেকে ৪৮% কথোপকথন, আর উপসর্গ নিয়ে ৩৩ থেকে ৪০%, উচ্চ-ঝুঁকিপূর্ণ ছিল; সাধারণ স্বাস্থ্য-তথ্যে তা প্রায় ৮ থেকে ১২%।

১২৮টি ঝুঁকিপূর্ণ কথোপকথন পড়ে লেখকেরা বারবার ঘটা ব্যর্থতা খুঁজে পেয়েছেন: কোনো পেশাদারের কাছে পাঠানোর পরামর্শ না থাকা, ভুল বা ক্ষতিকর পরামর্শ, অনিরাপদ স্ব-চিকিৎসা বা মাত্রা, চ্যাটবটের ওপর নির্ভরতায় উৎসাহ, আর ঝুঁকিপূর্ণ স্ব-রোগনির্ণয়। তাঁদের উদাহরণের মধ্যে আছে:

রোগের সংস্পর্শে আসা একটি শিশুর যক্ষ্মা-স্ক্রিনিংয়ে নিরুৎসাহ, নির্দেশিকার বিপরীতে;
একজন গর্ভবতী ব্যবহারকারীকে ওষুধের মাত্রা বলে দেওয়া, কোনো স্বাস্থ্যসেবাদাতার পরামর্শ নেওয়ার কথা না বলে;
ব্যায়ামের সময় বুকে ব্যথার কেবল নিরীহ কারণগুলো তালিকাভুক্ত করা;
গুরুতর রক্তাল্পতায় (হিমোগ্লোবিন ৬.৬) জরুরি চিকিৎসার বদলে খাদ্য আর ব্যায়ামের সুপারিশ;
গুরুতর, দীর্ঘস্থায়ী মানসিক যন্ত্রণায় থাকা কারও কাছে নিজেকে প্রধান অবলম্বন হিসেবে তুলে ধরা।

কে প্রশ্ন করছেন, তাতেই সব বদলে যায়

ব্যবহারকারীর ইতিহাস সামনে রাখলে একই উত্তরগুলো অনেক খারাপ দেখিয়েছে। প্রতিটি দেশে উচ্চ-ঝুঁকির অংশ ১৩ থেকে ১৭ শতাংশ-বিন্দু বেড়েছে — ভারতে, এভাবে বিশ্লেষণ করা কথোপকথনের ২৯% থেকে ৪৪%। দেশভেদে লক্ষণীয়ভাবে স্থির: আলাদাভাবে দেখলে নিরাপদ বলে চিহ্নিত প্রায় প্রতি চারটি উত্তরের একটি, যিনি আসলে প্রশ্ন করেছিলেন তাঁর জন্য অনিরাপদ ছিল।

ফিটনেস-প্রশিক্ষণ সবচেয়ে নিরাপদ বিষয়গুলোর একটি থেকে উল্টে সবচেয়ে ঝুঁকিপূর্ণ বিষয়গুলোর একটি হয়ে গেছে। অন্ত্রে অস্ত্রোপচার হয়েছে এমন কারও জন্য ভারী কোর-ব্যায়াম; পাকস্থলীর আলসার আছে এমন কারও জন্য কাঁচা রসুন, লেবু-পানি আর আদা। লেখকেরা লিখেছেন, এর বেশির ভাগ ক্ষেত্রেই ক্ষতি এড়াতে প্রয়োজনীয় তথ্য ব্যবহারকারীর চ্যাট-ইতিহাসে আগে থেকেই ছিল। মডেলটি তা ব্যবহার করেছে সুর আর বিষয়বস্তু ব্যক্তিগত করতে — কিন্তু নিজের সতর্কতার জন্য নয়।

নতুন মানেই বেশি নিরাপদ নয়

প্রতিটি কথোপকথনে লেখা থাকে কোন মডেল উত্তর দিয়েছে। অন্ধভাবে নম্বর দিলে, GPT-3.5 থেকে GPT-4o ও GPT-5 হয়ে GPT-5.1 পর্যন্ত, চারটি দেশেই উচ্চ-ঝুঁকির হার প্রতিটি আপগ্রেডের সঙ্গে বেড়েছে — ব্রাজিলে ৬.২% থেকে ৩৪.৬%। “mini” সংস্করণগুলো প্রধান মডেলগুলোর চেয়ে বেশি ঝুঁকিপূর্ণ ছিল; সবচেয়ে নতুন GPT-5.2 ভারত ও নাইজেরিয়ায় আবার নেমে এসেছে। পরপর মডেলগুলোতে একই ব্যবহারকারীদের ক্ষেত্রেও এই প্রবণতা বজায় ছিল, যদিও লেখকেরা মডেলটিকে তার ব্যবহারের সময়কাল থেকে পুরোপুরি আলাদা করতে পারেন না।

বিচারক, চিকিৎসক নয়

এটি কী প্রমাণ করে, সে ব্যাপারে লেখকেরা সতর্ক। অংশগ্রহণকারীরা অনলাইন গিগ-কর্মীদের একটি সুবিধাজনক নমুনা, ভারত ও পাকিস্তানে তরুণ ও বেশির ভাগ পুরুষ, তাই হারগুলো জাতীয় পরিসংখ্যান নয়। বিচারক একটি AI, চিকিৎসক নয়, আর এটি ঝুঁকি মাপে, কারও প্রকৃত ক্ষতি নয়। ঝুঁকিপূর্ণ কথোপকথনগুলো কোডিং করেছেন একজন মাত্র লেখক।

তাঁরা তুলনা টেনেছেন ফার্মাকোভিজিল্যান্স-এর সঙ্গে, অর্থাৎ অনুমোদনের পর ওষুধের বাধ্যতামূলক নজরদারি: AI-এর স্বাস্থ্য-পরামর্শের ক্ষেত্রে এখনো এর কোনো সমতুল্য নেই। তাঁদের মতো সম্মতিভিত্তিক ডেটা-দান একটি প্রথম নমুনা হতে পারে — তবে শর্ত হলো, ব্যবহারকারীদের প্রোফাইল পড়া নিরাপত্তা-সরঞ্জামগুলো যেন নজরদারিতে পরিণত না হয়।