The Knowledge Frontier

Tiba na afyaChapisho la awaliUchambuzi wa dataDakika 4 za kusoma

JIBU MOJA KATI YA MATANO YA CHATGPT KUHUSU AFYA LINA HATARI KUBWA

ChatGPT ina watumiaji zaidi ya milioni 700 kwa wiki, waandishi wanabainisha, na maswali ya afya ni sehemu ya kawaida ya matumizi hayo. Matumizi yanaongezeka kwa kasi zaidi katika nchi za kipato cha chini na cha kati, ambako madaktari ni wachache — hivyo jibu la AI lina uwezekano mkubwa zaidi wa kuchukua nafasi ya huduma ya kitaalamu kuliko kuiongezea.

Hata hivyo karibu kila kinachojulikana kuhusu usalama wa ushauri wa afya wa AI kinatokana na visa vya kubuni: maelezo ya visa yaliyoandikwa na madaktari, maelekezo bandia, wagonjwa wa kuigiza. Na usalama hutegemea nani anauliza. Kufunga kula, kunyanyua vyuma vizito au dawa ya nyumbani ni salama kwa watu wazima wengi wenye afya na ni hatari kwa mtu mwenye kidonda cha tumbo, aliyefanyiwa upasuaji hivi karibuni au mwenye tatizo la ulaji.

Mazungumzo 202,590 yaliyotolewa

Shreyasi Roy Chowdhury, mtafiti huru, na Kiran Garimella, wa Chuo Kikuu cha Rutgers, waliwasajili watumiaji 1,252 wa ChatGPT nchini India, Nigeria, Brazil na Pakistan. Kila mmoja alihamisha na kutoa historia yake kamili ya ChatGPT, pamoja na umri na jinsia yake; taarifa binafsi ziliondolewa kwenye kompyuta yao wenyewe kabla ya kupakiwa. Hilo lilitoa mazungumzo 202,590, kuanzia Desemba 2022 hadi Februari 2026, ambapo 15,555 yalihusu afya.

Ili kuyapima, timu ilitumia kigezo cha usalama kilichochapishwa na AI ya mtoa huduma mwingine kama mwamuzi — Gemini 3.1 Pro — ili majibu ya ChatGPT yasipimwe na mfumo wa kampuni ileile. Kila jibu lilipewa alama kuanzia 1 (hatari) hadi 7 (salama); alama 3 au chini zilihesabiwa kuwa hatari kubwa. Mwamuzi alipima kila jibu mara mbili:

  • bila muktadha, akiangalia mazungumzo hayo pekee, kama yanavyofanya majaribio ya kawaida ya usalama;
  • kwa muktadha, akijua taarifa za kudumu za afya ambazo mtumiaji alikuwa amefichua katika mazungumzo ya awali — na akiuliza kama jibu lilikuwa salama kwa mtu huyo.

Moja kati ya matano, na watumiaji wengi

Yakipimwa bila muktadha, majibu mengi yalikuwa salama: alama ya kati ilikuwa 6. Lakini takriban mazungumzo moja kati ya matano kuhusu afya yalikuwa na hatari kubwa — kuanzia asilimia 20.6 nchini Nigeria hadi asilimia 26.3 nchini Pakistan. Na kwa sababu watu hurudi tena na tena, asilimia 51.6 hadi 61.7 ya watumiaji walipokea angalau jibu moja lenye hatari kubwa.

Hatari ilijikita katika maswali ya kitabibu zaidi: asilimia 40 hadi 48 ya mazungumzo kuhusu magonjwa na huduma, na asilimia 33 hadi 40 kuhusu dalili, yalikuwa na hatari kubwa, ikilinganishwa na takriban asilimia 8 hadi 12 kwa taarifa za jumla za afya.

Wakisoma mazungumzo 128 yenye hatari, waandishi walipata makosa yanayojirudia: kutompeleka mtu kwa mtaalamu, ushauri usio sahihi au wenye madhara, kujitibu au vipimo vya dawa visivyo salama, kuhimiza utegemezi kwa chatbot, na kujitambua ugonjwa kwa njia hatari. Mifano yao ni pamoja na:

  • kumkatisha tamaa mtu kumpima kifua kikuu mtoto mchanga aliyekutana na ugonjwa huo, kinyume na miongozo;
  • kumpa mtumiaji mjamzito vipimo vya dawa bila ushauri wa kushauriana na mhudumu wa afya;
  • kuorodhesha sababu zisizo na madhara pekee za maumivu ya kifua wakati wa mazoezi;
  • kupendekeza lishe na mazoezi kwa upungufu mkubwa wa damu (himoglobini 6.6) badala ya huduma ya dharura;
  • kujiweka kama tegemeo kuu kwa mtu aliye katika dhiki kali ya kiakili ya muda mrefu.

Nani anauliza hubadilisha kila kitu

Historia ya mtumiaji ilipozingatiwa, majibu yaleyale yalionekana mabaya zaidi sana. Sehemu ya hatari kubwa ilipanda kwa pointi 13 hadi 17 za asilimia katika kila nchi — nchini India, kutoka asilimia 29 hadi 44 ya mazungumzo yaliyochambuliwa kwa njia hii. Kinachoshangaza ni kwamba kilibaki karibu sawa katika nchi zote: takriban jibu moja kati ya manne lililopimwa kuwa salama likiwa peke yake halikuwa salama kwa mtu aliyeuliza hasa.

Ukocha wa mazoezi ya mwili uligeuka kutoka mojawapo ya mada salama zaidi hadi mojawapo ya zenye hatari zaidi. Mazoezi mazito ya misuli ya tumbo kwa mtu aliyefanyiwa upasuaji wa utumbo; kitunguu saumu kibichi, maji ya limau na tangawizi kwa mtu mwenye kidonda cha tumbo. Katika visa vingi kati ya hivi, waandishi wanaandika, taarifa zilizohitajika ili kuepuka madhara zilikuwa tayari kwenye historia ya mazungumzo ya mtumiaji. Mfumo ulizitumia kubinafsisha sauti na maudhui — lakini si tahadhari yake.

Mpya haikuwa salama zaidi

Kila mazungumzo hurekodi mfumo uliojibu. Yakipimwa bila muktadha, kiwango cha hatari kubwa kilipanda kwa kila toleo jipya kutoka GPT-3.5 kupitia GPT-4o na GPT-5 hadi GPT-5.1, katika nchi zote nne — nchini Brazil, kutoka asilimia 6.2 hadi 34.6. Matoleo ya “mini” yalikuwa na hatari zaidi kuliko matoleo makuu; toleo jipya kabisa, GPT-5.2, lilishuka tena nchini India na Nigeria. Mwenendo huu ulidumu kwa watumiaji walewale katika mifumo iliyofuatana, ingawa waandishi hawawezi kutenganisha kikamilifu mfumo wenyewe na wakati ulipotumika.

Mwamuzi, si daktari

Waandishi wanakuwa waangalifu kuhusu kile ambacho hili linaonyesha. Washiriki ni sampuli ya urahisi ya wafanyakazi wa kazi za mtandaoni za muda mfupi, vijana na wengi wao wanaume nchini India na Pakistan, hivyo viwango hivi si takwimu za kitaifa. Mwamuzi ni AI, si daktari, na hupima hatari, si madhara halisi kwa mtu yeyote. Mazungumzo yenye hatari yaliwekwa katika makundi na mwandishi mmoja tu.

Wanalinganisha na ufuatiliaji wa usalama wa dawa (pharmacovigilance), yaani ufuatiliaji wa lazima wa dawa baada ya kuidhinishwa: ushauri wa afya wa AI bado hauna kitu kinacholingana nao. Utoaji wa data kwa ridhaa, kama wao, unaweza kuwa mfano wa kwanza — mradi zana za usalama zinazosoma wasifu wa watumiaji hazigeuki kuwa upelelezi.