КАЖДЫЙ ПЯТЫЙ ОТВЕТ CHATGPT О ЗДОРОВЬЕ ПРИЗНАН ВЫСОКОРИСКОВАННЫМ

У ChatGPT более 700 миллионов пользователей в неделю, отмечают авторы, и вопросы о здоровье — обычная часть такого использования. Быстрее всего им начинают пользоваться в странах с низким и средним уровнем дохода, где не хватает врачей, — поэтому ответ ИИ там скорее заменит профессиональную помощь, чем дополнит её.

Тем не менее почти всё, что известно о безопасности медицинских советов ИИ, получено на выдуманных случаях: клинических виньетках, написанных врачами, синтетических запросах, смоделированных пациентах. А безопасность зависит от того, кто спрашивает. Голодание, подъём тяжестей или домашнее средство безвредны для большинства здоровых взрослых и опасны для человека с язвой, недавней операцией или расстройством пищевого поведения.

202 590 переданных разговоров

Шреяси Рой Чоудхури, независимая исследовательница, и Киран Гарималла из Ратгерского университета набрали 1252 пользователя ChatGPT в Индии, Нигерии, Бразилии и Пакистане. Каждый экспортировал и передал свою полную историю ChatGPT, указав возраст и пол; личные данные удалялись на собственном компьютере перед загрузкой. Так набралось 202 590 разговоров с декабря 2022 по февраль 2026 года, из которых 15 555 касались здоровья.

Для оценки команда использовала опубликованную шкалу безопасности и в качестве судьи ИИ другого разработчика — Gemini 3.1 Pro, — чтобы ответы ChatGPT не оценивала модель той же компании. Каждый ответ получал балл от 1 (опасно) до 7 (безопасно); 3 и ниже считалось высоким риском. Судья оценивал каждый ответ дважды:

вслепую, глядя только на разговор, как это делают стандартные проверки безопасности;
с контекстом, зная устойчивую информацию о здоровье, которую пользователь раскрыл в предыдущих разговорах, — и задаваясь вопросом, был ли ответ безопасен для этого человека.

Каждый пятый — и большинство пользователей

При оценке вслепую большинство ответов были безопасны: медианный балл составил 6. Но примерно каждый пятый разговор о здоровье оказался высокорискованным — от 20,6% в Нигерии до 26,3% в Пакистане. А поскольку люди возвращаются, от 51,6% до 61,7% пользователей получили хотя бы один высокорискованный ответ.

Риск сосредоточился в самых клинических вопросах: высокорискованными были 40–48% разговоров о заболеваниях и лечении и 33–40% разговоров о симптомах, против примерно 8–12% для общей информации о здоровье.

Прочитав 128 рискованных разговоров, авторы обнаружили повторяющиеся ошибки: отсутствие направления к специалисту, неверные или вредные советы, небезопасное самолечение или дозировки, поощрение зависимости от чат-бота и рискованная самодиагностика. Среди их примеров:

отговаривать от обследования на туберкулёз младенца, контактировавшего с больным, вопреки клиническим рекомендациям;
называть беременной пользовательнице дозы лекарств без совета обратиться к специалисту;
перечислять только безобидные причины боли в груди во время физической нагрузки;
рекомендовать диету и упражнения при тяжёлой анемии (гемоглобин 6,6) вместо срочной медицинской помощи;
выставлять себя главной опорой для человека в тяжёлом и затяжном душевном кризисе.

Кто спрашивает — меняет всё

С учётом истории пользователя те же ответы выглядели гораздо хуже. Доля высокорискованных ответов выросла на 13–17 процентных пунктов в каждой стране — в Индии с 29% до 44% разговоров, проанализированных таким образом. Поразительно постоянно во всех странах: примерно каждый четвёртый ответ, признанный безопасным в отрыве от контекста, был небезопасен для человека, который на самом деле спрашивал.

Фитнес-советы превратились из одной из самых безопасных тем в одну из самых рискованных. Тяжёлые упражнения на мышцы кора для человека, перенёсшего операцию на кишечнике; сырой чеснок, вода с лимоном и имбирь для человека с язвой желудка. В большинстве таких случаев, пишут авторы, информация, нужная, чтобы избежать вреда, уже была в истории чата пользователя. Модель использовала её, чтобы персонализировать тон и содержание, — но не свою осторожность.

Новее не значит безопаснее

В каждом разговоре записано, какая модель отвечала. При оценке вслепую доля высокорискованных ответов росла с каждым обновлением — от GPT-3.5 через GPT-4o и GPT-5 до GPT-5.1 — во всех четырёх странах; в Бразилии — с 6,2% до 34,6%. Версии «mini» были рискованнее флагманских; новейшая, GPT-5.2, в Индии и Нигерии откатилась назад. Тенденция сохранялась и для одних и тех же пользователей при смене моделей, хотя авторы не могут полностью отделить модель от момента, когда ею пользовались.

Судья, а не врач

Авторы осторожны в выводах. Участники — удобная выборка онлайн-работников платформ (gig workers), молодых и в Индии и Пакистане преимущественно мужчин, так что доли не являются общенациональными показателями. Судья — это ИИ, а не врач, и он измеряет риск, а не реальный вред кому-либо. Рискованные разговоры кодировал один автор.

Они проводят параллель с фармаконадзором — обязательным мониторингом лекарств после их одобрения: у медицинских советов ИИ пока нет аналога. Добровольная передача данных с согласием, как в их работе, могла бы стать первым прототипом — при условии, что инструменты безопасности, читающие профили пользователей, не превратятся в слежку.