Seattle, Etats-Unis. Un homme de 60 ans, grand utilisateur des agents conversationnels d’intelligence artificielle (ChatGPT, Claude…) se présente aux urgences. Il explique se sentir mal, jure que c’est la faute de son voisin, qu’il est fou, un vrai méchant, capable du pire. Il en est sûr : il a été empoisonné, et par lui, aucun doute. Le personnel procède aux vérifications : pas d’antécédents médicaux ou psychiatriques, patient capable de discernement. Ses constantes vitales sont normales, mais la machine qui présente les analyses de sang, elle, s’illumine dans tous les sens. Les seuils de chlore sont trop hauts, et les quantités de sodium et de bicarbonate sont incohérentes. Il faut l’hospitaliser d’urgence.
Dans la salle de repos, les médecins s’interrogent : que s’est-il passé ? Les données sont contradictoires, et peu concluantes. Peut-être a-t-il ingéré des métaux lourds ? Quel est son régime alimentaire ? Il faut le réinterroger, mais impossible : le patient s’agite, répète qu’il a soif, très soif, mais refuse l’eau qu’on lui propose, puis quand le personnel a le dos tourné, tente de fuir, cathéter dans le bras. La cavalcade est grotesque : il parle aux murs, enjambe des obstacles invisibles. Sur le rapport médical, les spécialistes notent : hallucinations visuelles et auditives, possible bromisme. On l’envoie à l’hôpital psychiatrique, en attendant que l’intraveineuse qui lui a été posée fasse effet.
Le bromisme désigne une intoxication au bromure, un type de sel autrefois utilisé dans les médicaments. Une affection courante au siècle dernier, mais désormais rare, le composant ayant été éliminé de la pharmacopée. La perfusion fait effet, le patient dort puis s’explique. L’homme est obsédé par ce qu’il mange, au point de suivre un régime végétarien extrêmement strict. Ses lectures sur Internet, toujours plus spécifiques, l’ont conduit à se méfier du sel de table, néfaste pour la tension artérielle, au point de tenter de l’éliminer de son alimentation. Il existe de nombreux régimes mais il les trouve insuffisants, se persuade de pousser l’expérience, lui qui a une formation en nutrition, fait des recherches sur des composés chimiques qui peuvent avoir les mêmes propriétés. Ce sera lui, son premier cobaye.
Une recette IA
A l’aide de ChatGPT, il développe une recette, et remplace les cristaux de sel par d’autres. Ce sera du bromure : un poison qu’il ingère assidûment pendant trois mois, sans se méfier des horribles boutons qui ont commencé à lui dévorer le visage. L’IA dit que les deux sont interchangeables. C’est vrai, si l’on veut nettoyer des surfaces, mais dans un régime alimentaire, le bromure est mortel. Oups. La machine est une machine, elle n’a aucune conscience de l’importance de ce détail, et elle est développée pour donner des réponses avec aplomb, sinon le client quitte la plateforme, et si le client quitte la plateforme, les revenus s’effondrent. L’homme n’a pas été empoisonné par son voisin, mais par le programme informatique qui génère des mots accessibles gratuitement sur son ordinateur, sans qu’on le tienne pour responsable de ce qu’il se passe ensuite.
Les médecins de l’université Washington de Seattle tirent de ce cas une étude, publiée en août 2025 dans les Annals of Internal Medicine: Clinical Cases. Ils s’inquiètent des fausses affirmations de l’IA, et notent : « Nous n’avons pas accès à l’historique de ses conversations avec ChatGPT, et nous ne pourrons jamais savoir avec certitude quelle réponse exacte il a obtenue : chaque réponse est unique et se construit à partir des échanges qui la précèdent ». Contrairement à un médecin, ou à un proche de mauvais conseil, la machine est inconséquente. On ne peut pas l’interroger, encore moins la placer en garde à vue. Les méfaits sont réels, mais ils ne laissent pas de trace.
Le 9 octobre 2026, des chercheurs des universités de Binghamton, Stanford, Texas A&M et Indiana s’emparent de l’affaire. Ils publient un éditorial, dans la revue Nature Health, qui s’il rappelle les avancées obtenues par l’IA, dénonce aussi ces « risques invisibles ». Oui, ces systèmes apportent de réels bénéfices, notamment des explications en langage clair d’informations médicales, une disponibilité 24 heures sur 24 et un accès élargi pour les personnes confrontées à des barrières linguistiques ou à des difficultés de lecture et de compréhension, une source abordable et accessible, parfois la seule. Mais si un médecin, ou ne serait-ce qu’un ami, avait tenu de tels propos, il aurait été sommé, au moins, de faire preuve de transparence, pour aider les médecins dans leur diagnostic. L’intelligence artificielle, elle, génère une réponse personnelle qui n’est jamais la même, et ne tient pas de registres publics sur ses réponses. Un problème « structurel » alors que ces outils sont déjà déployés pour des usages « santé », et que des millions d’internautes s’adonnent déjà à ce type de requêtes.
Intoxications, overdoses…
Dans la presse, les histoires d’intoxications à l’IA commencent à émerger. En juillet, aux Etats-Unis, un homme annonçait porter plainte contre OpenAI. Il se sentait mal. La machine relativise, alors il attend avant de prendre des rendez-vous médicaux sauf que le problème s’avérera être une embolie pulmonaire, une urgence. En mai, les parents d’un adolescent mort d’une overdose ont eux aussi annoncé des poursuites, à cause des recommandations sur les substances et les dosages faites par la machine. Et depuis qu’il est possible de faire de fausses vidéos crédibles, de faux docteurs synthétiques inondent les réseaux sociaux, profitant de l’effet de la blouse et du stéthoscope pour vendre des compléments alimentaires ou de faux remèdes, comme ce deepfake du Dr Jimmy Mohamed, que nous rapportions il y a quelques semaines. Les intelligences artificielles ne sont pas fiables pour les conseils médicaux, les constructeurs le savent : en avril, des scientifiques font mine de recenser, dans des articles ridicules qui n’auraient pas trompé les médecins, l’apparition de la Bixonimania, une « maladie » en réalité inexistante. La machine les a pris comme vrais.
Quelle est l’ampleur du problème ? Impossible à dire. « Nous ne savons pas à quel point les prises en charge à cause de l’IA sont répandues, car les chercheurs indépendants n’ont aucun moyen d’accéder aux données nécessaires pour évaluer les préjudices à l’échelle de la population. Cette absence d’accès constitue l’argument central de notre article, et c’est pourquoi nous qualifions ces dommages d’invisibles. Personne, en dehors des entreprises d’IA elles-mêmes, n’est en mesure de le déterminer », détaille Matthew DeVerna, chercheur spécialisé dans les effets de l’IA et un des auteurs de l’article de Nature Health. Aurait-on accepté que des médecins, des infirmiers, ou n’importe quel personnel de santé bénéficient d’une telle impunité ?
Les chercheurs proposent que les entreprises d’intelligence artificielle permettent aux utilisateurs d’accéder à leurs propres conversations sur la santé, afin qu’ils puissent les transmettre à leurs médecins et retracer plus facilement l’enchaînement ayant conduit à un incident. Ils recommandent aussi que ces entreprises mettent en place un dispositif de signalement permettant de repérer, déclarer et examiner les conseils de santé problématiques – d’autant que ces données sont déjà conservées par les entreprises, pour améliorer leurs modèles. Enfin, ils appellent les réseaux sociaux à prendre davantage leurs responsabilités : signaler plus clairement les contenus de santé générés par l’IA, et ne les diffuser qu’après validation par des instances médicales de référence.
« Nous recommandons que les plateformes détectent les contenus de santé synthétiques, y apposent un filigrane et un étiquetage appropriés, puis s’abstiennent de les diffuser largement tant qu’ils n’ont pas été examinés par des experts et que leur provenance n’a pas été établie. L’objectif est d’empêcher que des contenus de santé synthétiques potentiellement dangereux ne deviennent viraux. Or, seule une faible proportion des contenus mis en ligne atteint une large audience. Les plateformes décident déjà du classement des publications et de l’ampleur de leur diffusion. Cette recommandation porte précisément sur ces choix de mise en avant et d’amplification », poursuit Matthew DeVerna. Les moteurs de recherche, de même, ne devraient s’appuyer que sur des informations validées dans leurs résumés. Quant aux responsables politiques, ils devraient, selon les auteurs, étendre aux entreprises de chatbots la responsabilité pour faute médicale qui s’applique aux médecins. En somme, appliquer aux robots ce qui s’applique à l’homme.
Source link : https://www.lexpress.fr/sciences-sante/irresponsables-intracables-les-risques-caches-des-ia-en-sante-BTK46PUQ6BDMRNMFGML5UC2CU4/
Author : Antoine Beau
Publish date : 2026-10-16 10:00:00
Copyright for syndicated content belongs to the linked Source.
