UNE RÉPONSE SANTÉ DE CHATGPT SUR CINQ JUGÉE À HAUT RISQUE

ChatGPT compte plus de 700 millions d’utilisateurs par semaine, rappellent les auteurs, et les questions de santé font partie de ses usages courants. L’adoption progresse le plus vite dans les pays à revenu faible et intermédiaire, où les médecins sont rares — une réponse d’IA y remplace donc plus souvent les soins qu’elle ne les complète.

Or presque tout ce qu’on sait de la sécurité des conseils de santé des IA vient de cas inventés : vignettes rédigées par des cliniciens, requêtes synthétiques, patients simulés. Et la sécurité dépend de qui pose la question. Jeûner, soulever des charges lourdes ou suivre un remède maison est sans danger pour la plupart des adultes en bonne santé, mais dangereux pour quelqu’un qui a un ulcère, une opération récente ou un trouble alimentaire.

202 590 conversations données

Shreyasi Roy Chowdhury, sans affiliation institutionnelle, et Kiran Garimella, de l’université Rutgers, ont recruté 1 252 utilisateurs de ChatGPT en Inde, au Nigeria, au Brésil et au Pakistan. Chacun a exporté et donné tout son historique ChatGPT, avec son âge et son genre ; les données personnelles étaient retirées sur son propre ordinateur avant l’envoi. Résultat : 202 590 conversations, de décembre 2022 à février 2026, dont 15 555 portaient sur la santé.

Pour les noter, l’équipe a utilisé une grille de sécurité publiée et une IA d’un autre fournisseur comme arbitre — Gemini 3.1 Pro — afin que les réponses de ChatGPT ne soient pas notées par un modèle de la même entreprise. Chaque réponse recevait un score de 1 (dangereuse) à 7 (sûre) ; 3 ou moins comptait comme haut risque. L’arbitre notait chaque réponse deux fois :

• à l’aveugle, en ne regardant que la conversation, comme le font les tests de sécurité habituels ;
• avec contexte, en connaissant les informations de santé durables que l’utilisateur avait révélées dans des conversations antérieures — et en se demandant si la réponse était sûre pour cette personne.

Une sur cinq, et la plupart des utilisateurs

Notées à l’aveugle, la plupart des réponses étaient sûres : le score médian était de 6. Mais environ une conversation de santé sur cinq était à haut risque — de 20,6 % au Nigeria à 26,3 % au Pakistan. Et comme les gens reviennent, 51,6 % à 61,7 % des utilisateurs ont reçu au moins une réponse à haut risque.

Le risque se concentrait sur les questions les plus médicales : 40 à 48 % des conversations sur les maladies et les soins, et 33 à 40 % de celles sur les symptômes, étaient à haut risque, contre 8 à 12 % environ pour l’information de santé générale.

En lisant 128 conversations risquées, les auteurs ont relevé des défaillances récurrentes : pas d’orientation vers un professionnel, conseils faux ou nocifs, automédication ou dosages dangereux, encouragement à dépendre du chatbot, autodiagnostic risqué. Parmi leurs exemples :

• déconseiller le dépistage de la tuberculose pour un nourrisson exposé à la maladie, contrairement aux recommandations ;
• donner des doses de médicaments à une utilisatrice enceinte sans lui conseiller de consulter ;
• ne citer que des causes bénignes pour une douleur thoracique à l’effort ;
• recommander régime et exercice pour une anémie sévère (hémoglobine à 6,6) au lieu de soins urgents ;
• se présenter comme le principal soutien d’une personne en détresse mentale sévère et durable.

Qui demande change tout

Avec l’historique de l’utilisateur sous les yeux, les mêmes réponses paraissaient bien pires. La part de haut risque a augmenté de 13 à 17 points dans chaque pays — en Inde, de 29 % à 44 % des conversations analysées ainsi. Chiffre frappant de constance d’un pays à l’autre : environ une réponse sur quatre jugée sûre isolément était dangereuse pour la personne qui l’avait réellement demandée.

Le coaching sportif est passé de l’un des sujets les plus sûrs à l’un des plus risqués. Des exercices lourds de gainage pour quelqu’un opéré de l’intestin ; ail cru, eau citronnée et gingembre pour quelqu’un qui a un ulcère d’estomac. Dans la plupart de ces cas, écrivent les auteurs, l’information nécessaire pour éviter le danger figurait déjà dans l’historique. Le modèle s’en servait pour personnaliser le ton et le contenu — mais pas sa prudence.

Plus récent, pas plus sûr

Chaque conversation enregistre le modèle qui a répondu. Notées à l’aveugle, la part de haut risque a augmenté à chaque mise à jour, de GPT-3.5 à GPT-4o, GPT-5 puis GPT-5.1, dans les quatre pays — au Brésil, de 6,2 % à 34,6 %. Les versions « mini » étaient plus risquées que les modèles phares ; la plus récente, GPT-5.2, recule en Inde et au Nigeria. La tendance tient pour les mêmes utilisateurs d’un modèle à l’autre, même si les auteurs ne peuvent pas totalement séparer le modèle du moment où il a servi.

Un arbitre, pas un médecin

Les auteurs sont prudents sur ce que cela montre. Les participants forment un échantillon de commodité de travailleurs de plateformes en ligne, jeunes et surtout masculins en Inde et au Pakistan : les taux ne sont pas des chiffres nationaux. L’arbitre est une IA, pas un clinicien, et il mesure un risque, pas un dommage réel. Les conversations risquées ont été codées par un seul auteur.

Ils font le parallèle avec la pharmacovigilance, la surveillance obligatoire des médicaments après leur mise sur le marché : les conseils de santé des IA n’ont encore aucun équivalent. Le don de données consenti, comme le leur, pourrait en être un premier prototype — à condition que des outils de sécurité qui lisent le profil des utilisateurs ne se transforment pas en surveillance.