ChatGPTの健康に関する回答、5つに1つが高リスクと評価

著者らによれば、ChatGPTの週間利用者は7億人を超え、健康に関する質問はその使われ方のありふれた一部だ。利用が最も急速に広がっているのは、医師が不足している低・中所得国であり、そこではAIの回答が専門的な医療を補うよりも、それに取って代わる可能性が高い。

ところが、AIによる健康助言の安全性についてわかっていることのほとんどは、作り物の事例に基づいている。臨床医が書いた症例文、合成されたプロンプト、模擬患者などだ。そして安全かどうかは、誰が尋ねているかによって変わる。断食、重いウエイトを持ち上げること、民間療法は、健康な成人の大半にとっては無害だが、潰瘍のある人、最近手術を受けた人、摂食障害のある人にとっては危険だ。

提供された20万2590件の会話

独立研究者のシュレヤシ・ロイ・チョウドリーと、ラトガース大学のキラン・ガリメッラは、インド、ナイジェリア、ブラジル、パキスタンのChatGPT利用者1252人を募った。各人はChatGPTの全履歴を書き出し、年齢と性別とともに提供した。個人情報は、アップロード前に本人のコンピューター上で削除された。こうして2022年12月から2026年2月までの20万2590件の会話が集まり、そのうち1万5555件が健康に関するものだった。

評価には、公表されている安全性の採点基準と、別の企業のAIであるGemini 3.1 Proを審査役として使った。ChatGPTの回答が同じ会社のモデルに採点されないようにするためだ。各回答には1(危険)から7(安全)までの点数がつけられ、3以下は高リスクとされた。審査役は各回答を2回採点した。

• ブラインド:標準的な安全性試験と同じように、その会話だけを見て採点する。
• 文脈あり:利用者が以前の会話で明かしていた持続的な健康情報を知ったうえで、その回答がその人にとって安全かどうかを問う。

5件に1件、そして利用者の大半

ブラインドで採点すると、ほとんどの回答は安全で、点数の中央値は6だった。しかし健康相談のおよそ5件に1件は高リスクだった。ナイジェリアの20.6%からパキスタンの26.3%までの幅がある。そして人々は何度も戻ってくるので、**利用者の51.6%から61.7%**が少なくとも1回は高リスクの回答を受け取っていた。

リスクは最も臨床的な質問に集中していた。病気やケアについての会話の40〜48%、症状についての会話の33〜40%が高リスクだったのに対し、一般的な健康情報ではおよそ8〜12%だった。

リスクのある会話128件を読み込んだ著者らは、繰り返し現れる失敗を見つけた。専門家への紹介がない、誤った、あるいは有害な助言、危険な自己治療や用量、チャットボットへの依存を促すこと、そして危険な自己診断だ。例として次のようなものが挙げられている。

• 結核に曝露した乳児の結核検査を、ガイドラインに反して思いとどまらせた。
• 妊娠中の利用者に薬の用量を示しながら、医療提供者に相談するよう勧めなかった。
• 運動中の胸の痛みについて、無害な原因だけを列挙した。
• 重度の貧血(ヘモグロビン6.6)に対して、緊急の受診ではなく食事と運動を勧めた。
• 深刻で長期にわたる精神的苦痛を抱える人に対し、自らを主な支えとして位置づけた。

誰が尋ねるかですべてが変わる

利用者の履歴を考慮に入れると、同じ回答がずっと悪く見えた。高リスクの割合はどの国でも13〜17ポイント上昇した。インドでは、この方法で分析した会話の29%から44%になった。国を問わず驚くほど一定していたのは、単独で見て安全と評価された回答のおよそ4件に1件が、実際に尋ねた本人にとっては安全でなかったという点だ。

フィットネスの指導は、最も安全な話題の一つから最もリスクの高い話題の一つへと一変した。腸の手術を受けた人に負荷の大きい体幹トレーニングを勧める。胃潰瘍のある人に生のニンニク、レモン水、ショウガを勧める。著者らによれば、こうした事例の大半では、害を避けるのに必要な情報がすでに利用者のチャット履歴の中にあった。モデルはその情報を、口調や内容の個別化には使ったが、慎重さには使わなかったのだ。

新しいほど安全、ではなかった

各会話には、回答したモデルが記録されている。ブラインドで採点すると、高リスクの割合はGPT-3.5からGPT-4o、GPT-5、GPT-5.1へとアップグレードのたびに上昇した。4か国すべてでそうだった。ブラジルでは6.2%から34.6%に上がった。「mini」版は主力版よりリスクが高かった。最新のGPT-5.2では、インドとナイジェリアで割合が下がった。この傾向は、同じ利用者が連続するモデルを使った場合にも見られた。ただし著者らは、モデルの影響と、それが使われた時期の影響を完全には切り分けられない。

審査役であって、医師ではない

著者らは、この研究が何を示しているかについて慎重だ。参加者はオンラインのギグワーカーから集めた便宜的なサンプルで、インドとパキスタンでは若く、大半が男性だった。したがって、割合は国全体の数字ではない。審査役は臨床医ではなくAIであり、測っているのはリスクであって、誰かに実際に生じた害ではない。リスクのある会話の分類は、著者1人が行った。

著者らはファーマコビジランス(医薬品安全性監視)、つまり承認後の医薬品に義務づけられた監視との類似を指摘する。AIによる健康助言には、まだそれに相当するものがない。彼らの研究のような、同意に基づくデータ提供は、その最初の試作品になりうる。ただし、利用者のプロフィールを読む安全性ツールが監視に変わってしまわないことが条件だ。