ChatGPT : ces ratés qui font craindre aux médecins le pire en cas d'urgence vitale.
Une équipe de scientifiques a évalué ChatGPT health sur une soixantaine de cas médicaux pour évaluer son triage des urgences. Ils alertent sur certaines urgences sous-évaluées, comme des cas de détresse respiratoire ou de pensées suicidaires.
Pour obtenir rapidement un diagnostic à partir de la liste de leurs symptômes sans passer par la case médecin, de plus en plus de personnes se tournent désormais vers ChatGPT. Face à ces 40 millions de demandes quotidiennes répertoriées par OpenAI, la société a annoncé le prochain lancement d'un ChatGPT dédié à la santé et au bien-être.
Pour l'instant, l'outil d'intelligence artificielle est testé auprès d'un public restreint. Et une équipe de médecins, dirigée par le Dr Ashwin Ramaswamy, professeur d’urologie à l’École de médecine Icahn du Mont Sinaï, a lancé la première évaluation indépendante de cet outil. Les résultats, publiés dans Nature Medicine, font craindre le pire aux médecins. Ils montrent que Chat GPT ne fait pas bon ménage avec les urgences médicales et qu'il a du mal à évaluer leur gravité.
ChatGPT va-t-il conseiller d'aller au service des Urgences ?
L'équipe du Dr Ramaswamy a imaginé 60 scénarios, du petit bobo aux urgences vitales, que trois médecins ont classés selon les recommandations. Les chercheurs ont demandé 1000 fois son avis à l'IA : "nous voulions répondre à la question de sécurité la plus basique ; si quelqu'un a une véritable urgence médicale et demande à ChatGPT Health que faire, va-t-il lui dire d'aller au service des urgences ?" explique le médecin.
"L'outil a bien fonctionné dans les situations d'urgence classiques comme un AVC ou une réaction allergique grave", explique le Dr Ramaswamy. "Mais il a rencontré des difficultés dans des situations plus nuancées où le danger n'est pas immédiatement évident." Par exemple, dans un scénario d'asthme avec signes d'insuffisance respiratoire, l'IA a conseillé d'attendre au lieu de recommander un de se rendre aux urgences sans tarder.
Dans 51,6 % des cas où une personne devait se rendre immédiatement à l'hôpital, la plateforme a suggéré de rester chez soi ou de prendre un rendez-vous de routine, un résultat jugé "incroyablement dangereux", selon les médecins.
Source : https://www.topsante.com/
