UNA DE CADA CINCO RESPUESTAS DE SALUD DE CHATGPT, CALIFICADA DE ALTO RIESGO

ChatGPT tiene más de 700 millones de usuarios semanales, señalan los autores, y las preguntas de salud son una parte habitual de ese uso. Su adopción crece más deprisa en los países de ingresos bajos y medios, donde escasean los médicos, de modo que es más probable que una respuesta de la IA sustituya a la atención profesional que la complemente.

Sin embargo, casi todo lo que se sabe sobre la seguridad de los consejos de salud de la IA procede de casos inventados: viñetas escritas por clínicos, instrucciones sintéticas, pacientes simulados. Y la seguridad depende de quién pregunte. Ayunar, levantar pesos pesados o un remedio casero son inofensivos para la mayoría de los adultos sanos y peligrosos para alguien con una úlcera, una cirugía reciente o un trastorno alimentario.

202.590 conversaciones donadas

Shreyasi Roy Chowdhury, investigadora independiente, y Kiran Garimella, de la Universidad Rutgers, reclutaron a 1.252 usuarios de ChatGPT en India, Nigeria, Brasil y Pakistán. Cada uno exportó y donó su historial completo de ChatGPT, junto con su edad y su género; los datos personales se eliminaron en su propio ordenador antes de subirlos. Así se reunieron 202.590 conversaciones, de diciembre de 2022 a febrero de 2026, de las cuales 15.555 trataban sobre salud.

Para evaluarlas, el equipo usó una rúbrica de seguridad publicada y una IA de otro proveedor como juez, Gemini 3.1 Pro, para que las respuestas de ChatGPT no fueran puntuadas por un modelo de la misma empresa. Cada respuesta recibió una puntuación de 1 (peligrosa) a 7 (segura); 3 o menos contaba como alto riesgo. El juez puntuó cada respuesta dos veces:

• a ciegas, mirando solo la conversación, como hacen las pruebas de seguridad estándar;
• con contexto, conociendo la información de salud duradera que el usuario había revelado en conversaciones anteriores, y preguntándose si la respuesta era segura para esa persona.

Una de cada cinco, y la mayoría de los usuarios

Puntuadas a ciegas, la mayoría de las respuestas eran seguras: la puntuación mediana fue 6. Pero aproximadamente una de cada cinco conversaciones sobre salud era de alto riesgo, desde el 20,6 % en Nigeria hasta el 26,3 % en Pakistán. Y como la gente vuelve, entre el 51,6 % y el 61,7 % de los usuarios recibieron al menos una respuesta de alto riesgo.

El riesgo se concentró en las preguntas más clínicas: entre el 40 y el 48 % de las conversaciones sobre enfermedades y tratamientos, y entre el 33 y el 40 % de las relativas a síntomas, eran de alto riesgo, frente a aproximadamente el 8 a 12 % de las de información general sobre salud.

Al leer 128 conversaciones arriesgadas, los autores encontraron fallos recurrentes: ninguna derivación a un profesional, consejos erróneos o perjudiciales, autotratamiento o dosificación inseguros, fomento de la dependencia del chatbot y autodiagnósticos arriesgados. Entre sus ejemplos:

• desaconsejar el cribado de tuberculosis a un lactante expuesto a la enfermedad, en contra de las guías clínicas;
• dar dosis de medicamentos a una usuaria embarazada sin aconsejarle consultar a un profesional;
• enumerar solo causas inofensivas para un dolor de pecho durante el ejercicio;
• recomendar dieta y ejercicio ante una anemia grave (hemoglobina de 6,6) en lugar de atención urgente;
• presentarse como el principal apoyo de alguien con un sufrimiento psicológico grave y prolongado.

Quién pregunta lo cambia todo

Con el historial del usuario a la vista, las mismas respuestas parecían mucho peores. La proporción de alto riesgo aumentó entre 13 y 17 puntos porcentuales en todos los países; en India, del 29 % al 44 % de las conversaciones analizadas de este modo. Llamativamente constante entre países: aproximadamente una de cada cuatro respuestas calificadas de seguras de forma aislada era insegura para la persona que realmente preguntó.

El entrenamiento físico pasó de ser uno de los temas más seguros a uno de los más arriesgados. Ejercicios intensos de abdomen para alguien que había sido operado del intestino; ajo crudo, agua con limón y jengibre para alguien con una úlcera de estómago. En la mayoría de estos casos, escriben los autores, la información necesaria para evitar el daño ya estaba en el historial de chat del usuario. El modelo la usó para personalizar el tono y el contenido, pero no su prudencia.

Más nuevo no era más seguro

Cada conversación registra el modelo que respondió. Puntuada a ciegas, la tasa de alto riesgo aumentó con cada actualización, de GPT-3.5 a GPT-4o, GPT-5 y GPT-5.1, en los cuatro países; en Brasil, del 6,2 % al 34,6 %. Las versiones «mini» eran más arriesgadas que los modelos insignia; el más reciente, GPT-5.2, retrocedió en India y Nigeria. La tendencia se mantuvo para los mismos usuarios a lo largo de modelos consecutivos, aunque los autores no pueden separar del todo el modelo del momento en que se usó.

Un juez, no un médico

Los autores son prudentes sobre lo que esto demuestra. Los participantes son una muestra de conveniencia de trabajadores de plataformas en línea, jóvenes y mayoritariamente hombres en India y Pakistán, así que las tasas no son cifras nacionales. El juez es una IA, no un clínico, y mide el riesgo, no el daño real causado a nadie. Las conversaciones arriesgadas fueron codificadas por un solo autor.

Trazan un paralelismo con la farmacovigilancia, el seguimiento obligatorio de los medicamentos tras su aprobación: los consejos de salud de la IA aún no tienen equivalente. La donación de datos con consentimiento, como la suya, podría ser un primer prototipo, siempre que las herramientas de seguridad que leen los perfiles de los usuarios no se conviertan en vigilancia.