Article publié par notre expert, le Docteur Pierre SIMON (Medical Doctorat, Nephrologist, Lawyer, Past-president of French Society for Telemedicine).
Auteur de plusieurs ouvrages sur la Télémédecine, il vient de co-rédiger le 07 Avril 2021, aux éditions Elsevier Masson un nouvel ouvrage intitulé « Télémédecine et télésoin : 100 cas d’usage pour une mise en oeuvre réussie ».
Il est également co-auteure d’un chapitre de l’ouvrage collectif de référence publié depuis le 04 Octobre 2021, sous la direction de Jean-Luc STANISLAS chez LEH Edition, intitulé « Innovations & management des structures de santé en France : accompagner la transformation de l’offre de soins » .
le Docteur Pierre SIMON est intervenu au Ministère des Solidarités et de la Santé sur la table ronde, à l’occasion du 1er Colloque national annuel de ManagerSante.com, sur la thématique « Comment embarquer les acteurs du numérique en santé ?« , le Mardi 29 Mars 2022.
N°63, Avril 2023
Chat GPT-3 (Generative Pre-trained Transformer 3) a été commercialisé par la société OpenAI à la fin novembre 2022. Après les deux premières versions (ChatGPT-1 en 2016 et ChatGPT-2 en 2019) qui ont eu peu de succès, la troisième version a des potentialités nouvelles grâce à une base de données qui s’est considérablement enrichie par rapport aux précédentes versions, Wikipédia ne correspondant plus qu’à 3% des quelque 175 milliards de données. De quelles données s’agit-il ? GPT-2 était capable d’écrire des articles de presse et des œuvres de fictions. GPT-3 a des données encyclopédiques considérables et bouscule les méthodes traditionnelles d’évaluation des connaissances des élèves et étudiants dans les lycées et universités.
Une requête testée sur ChatGPT-3 portant sur la médecine clinique
Sans connaître toutes les sources de données de cette IA, ChatGPT-3 assure utiliser des données de santé personnelles ou figurant dans des articles scientifiques médicaux, lui permettant d’affirmer trois avantages lorsque la requête suivante lui est faite : « Quels sont les avantages, les défis, les pièges et les perspectives d’avenir de ChatGPT en médecine clinique ? «
1) Accès à des informations à jour: ChatGPT peut accéder à de grandes quantités de données médicales et fournir des réponses précises et en temps réel aux questions cliniques.
2) Amélioration de l’engagement des patients: ChatGPT peut fournir aux patients un moyen pratique et accessible d’obtenir des réponses à leurs questions médicales et de suivre leurs informations de santé.
3) Réduction de la charge de travail pour les professionnels de santé: ChatGPT peut aider à réduire le fardeau administratif des professionnels de santé, leur permettant de se concentrer davantage sur les soins aux patients.
Il signale également trois défis à surmonter :
1) Problèmes de confidentialité des données: ChatGPT peut soulever des préoccupations en matière de confidentialité car il a accès à de grandes quantités d’informations personnelles sur la santé.
2) Précision incohérente: ChatGPT peut ne pas toujours fournir des réponses précises, en particulier pour les questions médicales complexes.
3) Biais dans les données d’entraînement: ChatGPT est seulement aussi bon que les données sur lesquelles il a été formé. Si les données de formation sont biaisées, le modèle peut perpétuer ce biais.
Enfin, il précise la possibilité de deux pièges :
1) Informations trompeuses: ChatGPT ne remplace pas un professionnel de santé, et des informations incorrectes ou trompeuses peuvent causer un préjudice aux patients.
2) Dépendance à la technologie: ChatGPT peut devenir une béquille pour les professionnels de santé, réduisant leur capacité à diagnostiquer et à traiter les patients en dehors du recours à la technologie.
(The potential impact of ChatGPT in clinical and translational medicine Christian Baumgartner Clin Transl Med 2023 Mar;13(3):e1206. doi: 10.1002/ctm2.1206.).
L'organisation de la médecine de soin primaire pourrait-elle bénéficier de ChatGPT ?
La même question pourrait être posée vis à vis d’autres IA grand public comme Google Bard. ChatGPT-3 est-il capable de communiquer des informations en santé qui seraient utiles aux citoyens s’ils utilisent cette application (payante) ? L’idée d’un chatbot pour orienter un citoyen dans un parcours de soins n’est pas nouvelle. Le NHS au Royaume-Uni a expérimenté en 2018 le chatbot Babylon Health. Cette IA était construite sur des données de santé correspondant aux motifs d’appels des citoyens anglais pour des soins non-programmés, l’équivalent en France du Centre 15.
La requête auprès de ChatGPT peut-elle être ciblée sur un symptôme simple que ressent le citoyen ou un besoin d’accompagnement ou de prévention ? En clair, cette IA est-elle capable d’orienter une personne dans un parcours de soins primaire ou peut-elle parfois se substituer à l’avis donné par un professionnel de santé ? En appliquant le principe de Garantie Humaine à la réponse donnée par une IA à la suite d’une requête, nous évaluons ici la fiabilité des réponses données vis à vis de symptômes uro-néphrologiques. Nous choisissons quelques symptômes courants de la sphère uro-néphrologique, l’auteur du billet étant néphrologue. On propose de suivre la démarche éthique de la Garantie Humaine (GH) vis à vis des réponses données par ChatGPT.
1ére requête : J’ai des brûlures en urinant. Peux-tu me conseiller ?
Réponse de ChatGPT : Tu as peut-être une infection des voies urinaires. Tu devrais aller voir un médecin pour en avoir le cœur net.
Nouvelle requête : En attendant de voir mon médecin, que me conseilles-tu pour me soulager ?
Réponse de l’IA : Tu pourrais prendre des suppléments de vitamines et de minéraux pour améliorer ton système immunitaire et boire beaucoup d’eau pour hydrater les voies urinaires et réduire les symptômes, voire prendre un médicament en vente libre pour une infection urinaire et un granulat d’acide citrique pour rééquilibrer le pH des urines.
Nouvelle requête : ce n’est pas la première fois que j’ai ces brûlures urinaires.
Réponse de l’IA : alors il est possible que tu aies une infection chronique des voies urinaires. Tu devrais absolument aller voir un médecin et demander un traitement plus fort pour guérir. Dans l’intervalle, tu pourrais prendre des mesures supplémentaires pour maintenir un système urinaire sain comme un changement de régime alimentaire, la prise de suppléments nutritifs, l’exercice régulier et une consommation modérée d’alcool.
Commentaires de GH : vis à vis du symptôme de brûlures urinaires, ChatGPT oriente bien la personne vers un médecin, surtout si l’IA a l’information de brûlures urinaires récidivantes. En attendant de voir le médecin, la bonne réponse est d’augmenter l’hydratation qui indiscutablement améliore le symptôme en quelques heures. En revanche, certaines réponses sont plus fantaisistes et correspondent aux habitudes des citoyens américains qui disposent de certains médicaments en vente libre. En France, la personne s’adresserait d’abord à un pharmacien d’Officine. La dernière réponse rappelle des mesures d’hygiène générales qui ne sont pas spécifiques au risque d’infection urinaire.
2ème requête : je rencontre des difficultés à uriner, je dois pousser pour vider ma vessie. Peux-tu me conseiller ?
Réponse de ChatGPT : l’IA est en difficultés et demande des précisions 1) est-il douloureux pour toi d’uriner ? 2) Ce n’est pas douloureux, est-ce juste épuisant ?
Pour la réponse 2, l’IA redemande encore des précisions : as-tu déjà subi des examens médicaux pour cela ?
Si la réponse est négative : je te recommande de voir un médecin pour en savoir plus sur les causes de vos difficultés à uriner
Pour la réponse 1 : ça a l’air douloureux ! Tu devrais consulter un médecin pour en savoir plus et déterminer la cause de ton problème. Une intervention chirurgicale pourrait être nécessaire.
Commentaires de GH : les réponses conduisent bien in fine la personne à consulter un médecin. Dans cette situation, l’IA n’a pas donné des réponses erronées, mais elle n’est pas capable d’évoquer un diagnostic, ce qui est normal pour une IA qui n’est pas à proprement parlé médicale.
3ème requête : On m’a découvert à la médecine du travail de l’albumine et du sang dans mes urines. Que dois-je faire ?
Réponse de ChatGPT : Il est important que tu te rendes rapidement chez ton médecin pour vérifier ton état de santé.
Commentaires de GH : la réponse de l’IA est tout à fait pertinente, la personne doit consulter rapidement son médecin traitant.
4ème requête : j’ai 50 ans. J’ai fait prendre ma tension artérielle à la pharmacie. Elle est anormalement élevée après 5 min de repos (160/96 mmHg). Je ne prends aucun médicament. Je ne ressens aucun symptôme. Que dois-je faire ?
Réponse de ChatGPT : Il est important de discuter avec ton médecin pour obtenir un diagnostic et des conseils. Le médecin prendra en compte ton histoire médicale et peut te prescrire des examens pour déterminer la cause de cette hypertension artérielle. En attendant ton rendez-vous chez le médecin, essaie d’adopter un mode de vie sain en limitant ta consommation d’aliments salés, en faisant de l’exercice régulièrement et en limitant ta consommation d’alcool et de tabac.
Commentaires de GH : à nouveau la réponse de l’IA est pertinente. L’algorithme souligne l’importance de consulter le médecin traitant. En attendant la consultation médicale, il prodigue des conseils tout à fait justifiés : réduire la charge en sel dans l’alimentation, limiter la consommation d’alcool et de tabac, pratiquer l’exercice physique. Tous ces conseils, de nature « non pharmacologique », peuvent contribuer à diminuer l’hypertension artérielle, mais probablement pas à la normaliser à 50 ans.
ChatGPT peut-il avoir un impact positif en prévention primaire ?
Nous proposons de faire une requête dans 3 situations : une surcharge pondérale, une addiction au tabac et à l’alcool, une sédentarité.
1ère requête : j’ai une surcharge pondérale et je voudrais maigrir. Que me conseilles-tu ?
Réponse de ChatGPT : je te suggérerais de commencer par faire des modifications à tes habitudes alimentaires. Essaie de limiter tes portions et choisis des aliments sains et nutritifs. Essaie également de manger des fruits et des légumes et de limiter l’apport en sucre et en graisses saturées. Une autre façon de te sentir mieux et de renforcer ton corps est de faire de l’exercice. Essaie de trouver une activité physique que tu aimes et que tu peux faire facilement. Tu peux essayer des activités comme la marche, le yoga, la natation.
Commentaires : les conseils donnés par ChatGPT sont pertinents, mais ne sont pas suffisants pour un état d’obésité morbide (IMC > 30kg/m2). Même pour une simple surcharge pondérale (IMC < 30kg/m2) il n’est pas certain que la personne puisse y parvenir sans être accompagnée d’un professionnel de santé (diététicien, médecin traitant, nutritionniste, autres). La réponse de ChatGPT n’évoque pas l’aide d’un professionnel de santé, ni l’éventualité de maladies associées (diabète, hypertension, etc.) qui rend l’approche plus complexe.
2ème requête : j’ai une addiction au tabac et à l’alcool. Je voudrais m’en libérer. Que me conseilles-tu ?
Réponse de ChatGPT : je te suggère d’essayer la méthode du sevrage progressif. Elle consiste à réduire progressivement ta consommation jusqu’à ce que tu puisses t’en passer complètement. D’autres méthodes peuvent inclure l’utilisation de remèdes à base de plantes et de médicaments, la thérapie par la parole, et d’autres traitements de soutien. Pense à te renseigner sur toutes les options disponibles pour un traitement efficace.
Commentaires : ChatGPT ne suggère pas l’aide d’un professionnel de santé. Le sevrage d’une addiction alcoolo-tabagique est difficile sans l’aide d’un professionnel de santé spécialisé dans les addictions.
3ème requête : j’ai un métier trop sédentaire. Je voudrais développer une activité physique. Que me conseilles-tu ?
Réponse de ChatGPT : la première chose que je te suggérerais de faire est de trouver une activité physiques que tu aimes faire. Tu peux essayer le yoga, la marche, la course à pied, la natation, le cyclisme ou même des sports d’équipe. Ensuite, tu prends le temps d’établir un plan cohérent et réaliste pour intégrer cette activité physique dans la routine. Fais des séances régulières et prends le temps de sentir une amélioration. Tu devrais également prendre le temps de penser à ton alimentation en fonction des objectifs.
Commentaires : les conseils sont pertinents, mais ChatGPT ne personnalise pas suffisamment la demande (quel métier, quel âge, quel sexe, etc. ?).
Perspectives et conclusions
ChatGPT précise lui-même les perspectives d’évolution de son IA qui travaille en apprentissage profond (Deep Learning) (The potential impact of ChatGPT in clinical and translational medicine Christian Baumgartner Clin Transl Med 2023 Mar;13(3):e1206. doi: 10.1002/ctm2.1206.) :
1) Amélioration de la précision: Au fur et à mesure que davantage de données sont collectées et analysées, la précision de ChatGPT est susceptible de s’améliorer.
2) Intégration avec les dossiers de santé électroniques (DSE): ChatGPT a le potentiel d’être intégré aux DSE, permettant un échange d’informations plus transparent entre les professionnels de santé et les patients.
3) Médecine personnalisée: ChatGPT a le potentiel de fournir des conseils médicaux personnalisés basés sur les données individuelles des patients et les antécédents médicaux.
Dans un éditorial du Lancet Digital Healthqui vient d’être mis en ligne (ChatGPT: friend or foe ? The Lancet Digital Health 2023 Mar;5(3):e102. doi: 10.1016/S2589-7500(23)00023-7 . Epub 2023 Feb), l’auteur se demande si ChatGPT deviendra un ami ou un ennemi. « L’enthousiasme initial qui a marqué la sortie du chatbot a été assorti d’une série de préoccupations éthiques qui pourraient, ou qui devraient, limiter son adoption. » L’éditorial souligne l’intérêt de ChatGPT pour générer des comptes rendus de séjours hospitaliers, d’avoir ainsi un impact favorable sur la durée des séjours et de réduire le travail administratif des soignants.
Mais des erreurs ont été mises en évidence, notamment dans les rapports de radiologie, pouvant être préjudiciables aux patients. Et l’auteur de réclamer un contrôle humain des rapports générés par le chatbot (le principe de garantie humaine en France et en Europe). « Les limites de ChatGPT sont connues. De l’aveu même d’OpenAI, les réponses de ChatGPT peuvent être incorrectes ou biaisées, comme citer des références d’articles qui n’existent pas ou bien perpétuer des stéréotypes sexistes ». « Bien que ChatGPT puisse servir à démocratiser le partage des connaissances, car il peut recevoir et sortir du texte dans plusieurs langues (bénéfique pour les locuteurs non natifs publiant en anglais), des inexactitudes dans le texte généré pourraient alimenter la propagation de la désinformation. » Ces préoccupations ont de graves répercussions sur l’intégrité des dossiers scientifiques, compte tenu du risque d’introduire non seulement des erreurs, mais aussi du contenu plagié dans les publications. »
Et l’auteur de l’éditorial de conclure : « L’utilisation généralisée de ChatGPT est apparemment inévitable, mais dans son itération actuelle, une utilisation négligente et incontrôlée pourrait être un ennemi à la fois pour la société et l’édition savante. Plus de prévoyance et de surveillance de la formation des modèles d’IA sont nécessaires, tout comme l’investissement dans des détecteurs d’erreurs qui soient robustes. ChatGPT change la donne, mais nous ne sommes pas tout à fait prêts à lui faire confiance. » Précisons enfin qu’une nouvelle version (ChatGPT-4) est en cours de production pour corriger certaines imperfections et erreurs de ChatGPT-3.
En France, l’avènement de ChatGPT pourrait contrarier la volonté clairement affichée des pouvoirs publics en 2019 d’avoir une souveraineté numérique des données de santé des citoyens français. Il est urgent d’en prendre conscience et d’accélérer l’évolution de Mon Espace Santé vers un « dossier numérique de santé centré sur le patient » (https://telemedaction.org/422021881/le-patient-acteur-de-sa-sant) afin que les services offerts par ChatGPT ne viennent pas contrarier tous les efforts accomplis au cours des trois dernières années pour que la plateforme d’Etat MES devienne le pivot du parcours de soins de nos concitoyens.
Nous remercions vivement le Docteur Pierre SIMON (Medical Doctor, Nephrologist, Lawyer, Past-president of French Society for Telemedicine) , auteur d’un ouvrage sur la Télémédecine, pour partager son expertise professionnelle pour nos fidèles lecteurs de ManagerSante.com
Biographie de l'auteur :
Son parcours : Président de la Société Française de Télémédecine (SFT-ANTEL) de janvier 2010 à novembre 2015, il a été de 2007 à 2009 Conseiller Général des Etablissements de Santé au Ministère de la santé et co-auteur du rapport sur « La place de la télémédecine dans l’organisation des soins » (novembre 2008). Il a été Praticien hospitalier néphrologue de 1974 à 2007, chef de service de néphrologie-dialyse (1974/2007), président de Commission médicale d’établissement (2001/2007) et président de conférence régionale des présidents de CME (2004/2007). Depuis 2015, consultant dans le champ de la télémédecine (blog créé en 2016 : telemedaction.org).
Sa formation : outre sa formation médicale (doctorat de médecine en 1970) et spécialisée (DES de néphrologie et d’Anesthésie-réanimation en 1975), il est également juriste de la santé (DU de responsabilité médicale en 1998, DESS de Droit médical en 2002).
Missions :accompagnement de plusieurs projets de télémédecine en France (Outre-mer) et à l’étranger (Colombie, Côte d’Ivoire).
avril 2007, Gazette du Palais 2007
