Faut-il avoir peur des chatbots dans le domaine de la santé ? Joséphine ARRIGHI DE CASANOVA nous explique comment prévenir des risques éventuels

Joséphine ARRIGHI DE CASANOVA

il y a 5 ans

N°2, Juin 2019

Nouvel Article publié par notre experte Joséphine ARRIGHI DE CASANOVA. Spécialiste des chatbots de santé (voir dossier publié par notre partenaire Beesens), elle conseille les intervenants du secteur de la santé dans leur conception et leur mise en œuvre. Également Conseil en Marketing et Communication dans les secteurs santé / bien-être.

En 2019, elle est major de l’Executive Master en Marketing et Communication à l’ESCP Europe et obtient le prix de la meilleure thèse professionnelle pour ses travaux intitulés : « Le chatbot : outil de persuasion? Le cas de la santé en France ». Elle prépare actuellement un Diplôme Universitaire en e-Santé et médecine connectée à l’Université Paris-Descartes.

[SAVE THE DATE] : Joséphine ARRIGHI DE CASANOVA interviendra Mardi 02 Juillet 2019 à l’Université d’Eté de la E-SANTE à CASTRES (France) sur cette thématique : « Les chatbots : une chance pour une santé durable ? ». Elle est également co-auteure d’un livre blanc publié par Le Lab e-santé avec un collège d’experts.

Pour faire suite à notre article précédent sur l’état des lieux des chatbots dans le domaine de la santé et à son inventaire des principaux cas d’usage, il convient à présent de poser un regard à la fois critique et constructif sur ce type d’outil et les nouvelles pratiques qu’il génère. Car plus encore que dans les domaines transactionnels où ils se sont développés en priorité (banque, assurance, commerce en ligne…), l’émergence des chatbots^[1] (et plus largement des outils numériques) dans le champ de la santé humaine vient questionner les méthodes de travail et les pratiques professionnelles.

Langage et exercice de la médecine vont de pair. Le verbe est le premier moyen pour le soignant de recueillir du patient la description et l’historique de ses symptômes, ses antécédents, mais aussi ses questions et ses inquiétudes. Il lui permet à son tour d’expliquer, de justifier, de rassurer, et parfois même de soigner. Pour ces raisons, l’utilisation d’un outil conversationnel au service de la relation patient-praticien suscite curiosité et intérêt de la part du milieu médical.

Mais au verbe s’ajoute toujours le langage du corps. Les gestes, les postures, les expressions faciales sont tout aussi importants que les mots pour communiquer un état physique, mental ou émotionnel. Les praticiens sont d’ailleurs formés à se fier non seulement à ce qu’ils observent et entendent, mais également ce qu’ils touchent, palpent et manipulent. On comprend mieux dès lors que la désintermédiation et la dématérialisation induites par des solutions telles que le chatbot questionnent et inquiètent.

Comment ces innovations sont-elles reçues par les acteurs de la santé en France, au premier rang desquels les soignants ? Quels risques et inquiétudes associent-ils à leur usage ? C’est ce que nous avons cherché à comprendre à travers une étude exploratoire[2] menée auprès d’une trentaine de praticiens et représentants du secteur de la santé en France (mutuelles de santé, organismes financeurs et accélérateurs de développement, startups, laboratoires pharmaceutiques, associations et représentant de patients, etc.), et dont nous proposons ici la synthèse et l’analyse.

Le chatbot, un outil qui génère des attentes élevées

Il faut tout d’abord rappeler que les chatbots sont récents. Ainsi, nombre de professionnels de santé n’en ont pas connaissance, et ignorent leur existence dans le secteur de la santé. Cette observation est confortée par une étude[3] parue en décembre 2018 selon laquelle près des trois quarts des professionnels de santé (73%) s’estiment « mal formés » en matière de numérique.

Néanmoins, une fois le terme défini et développé, il est assez aisé pour les praticiens et les acteurs de la santé de se représenter le concept et de lui associer des qualités.

Un outil empathique au service de la prise en compte des intérêts de l’utilisateur.

Spontanément, les acteurs de santé reconnaissent au chatbot un caractère convivial, ludique, ergonomique et interactif. Ils apprécient le fait qu’il soit simple d’utilisation et toujours disponible, et qu’il permette des échanges neutres et bienveillants.

A cela, une limite est immédiatement posée : celle de l’utilité perçue. L’utilisateur doit trouver un intérêt, c’est-à-dire voir son besoin adressé par le chatbot, seul gage de pérennité dans l’utilisation. Autrement dit, l’usage prime sur la technologie.

Un outil qui doit faire la preuve de sa crédibilité et sa pertinence.

Un chatbot de santé doit être doté de compétences techniques et faire preuve d’efficacité et de performance dans la matière dont il traite. L’information qu’il véhicule doit être élaborée et contrôlée par des professionnels disposant de l’autorité nécessaire, assistés au besoin par des équipes pluridisciplinaires, afin de garantir la fiabilité, la stabilité et la cohérence des contenus.

Par ailleurs, il est attendu des concepteurs qu’ils fassent preuve d’intégrité et de transparence dans la relation avec l’utilisateur afin de renforcer la confiance dans l’outil.

Enfin, la notoriété du chatbot et la reconnaissance dont il ferait l’objet au sein de la communauté scientifique sont susceptibles d’en augmenter l’attractivité et la crédibilité.

Une perception plutôt positive des services rendus par les chatbots…

Pour le patient, le chatbot est perçu comme un outil pratique et accessible qui peut favorablement répondre à un problème d’isolation des patients, et ainsi permettre un suivi à distance, favorable à une meilleure coordination des soins et plus économe en déplacements. Grâce à une contextualisation et une personnalisation du service rendu plus fortes, il constitue un outil de conseil et d’accompagnement pour tous, et peut permettre de renforcer l’empowerment du patient.

On attend du chatbot destiné au praticien qu’il soit capable de le soulager de tâches simples et répétitives, tout en l’assurant d’une meilleure performance dans l’exercice de son métier.

Comparé aux autres solutions digitales, le chatbot est perçu comme

plus « humain » et favorable à la relation, plus fin et plus cohérent que les sites web ;
plus pertinent et plus facile d’utilisation que les applications mobiles ;
plus fiable et moins intrusif que les objets connectés ;

soit plus « customer-friendly » que les outils numériques qui l’ont précédé.

Toutefois, le développement de ce type de technologies dans un secteur aussi sensible que celui de la santé est facteur d’inquiétude, pour le patient comme pour l’avenir de la profession.

… Mais dont l’usage n’est pas sans risque

Première crainte exprimée, la déshumanisation induite par l’utilisation d’un robot, perçue comme une barrière entre le médecin et son patient ou inadaptée à certaines pathologies. De façon plus insidieuse, le chatbot pourrait même donner l’illusion d’être en lien mais ne faire qu’aggraver l’isolement des individus, à l’image des réseaux sociaux.

Certains acteurs de santé pointent les risques fonctionnels liés aux erreurs et approximations du chatbot : dans l’interprétation des données et les recommandations délivrées par exemple, dans l’orientation du patient, ou encore le risque de confusion entre un diagnostic et ce qui relève de simples conseils. Est également mentionnée la crainte d’un effet déceptif qui serait causé par des réponses jugées non pertinentes ou trop standardisées, et qui non seulement détournerait l’utilisateur de la solution, mais affecterait en retour l’image et la réputation du concepteur.

Nombreux ont été les répondants à nous faire part de leurs inquiétudes quant à la collecte, la protection, la sécurité ou l’usage par des tiers des données personnelles de santé. Le sentiment est que le médecin, tenu par le secret professionnel, est mieux à même de les protéger. On craint des assureurs ou de l’Etat qu’ils n’exploitent les données à des fins commerciales sans que celles-ci soient correctement anonymisées. Et suite à l’expérience malheureuse d’un hôpital anglais, le hacking des données et la cybercriminalité inquiètent.

Plus surprenant, certains soignants craignent l’instauration d’une dépendance vis-à-vis du chatbot conçu pour les aider dans leur pratique. En sollicitant moins la mémoire, les connaissances seraient moins rapidement mobilisables, et il en résulterait une perte d’expérience.

Enfin, la question de savoir si les professionnels de santé se sentent menacés par les outils numériques et par l’intelligence artificielle (IA) est un sujet qui touche à l’éthique. D’un côté la crainte est forte que les décisions thérapeutiques n’échappent à l’humain à terme, et que l’IA ne finisse par décrédibiliser la parole du médecin. De l’autre, un outil numérique qui viendrait incrémenter la relation patient-praticien dont elle serait un complément utile est assez largement plébiscité. « Je ne le vis pas comme une concurrence déloyale. », nous a confié un gériatre ; « Il n’y a pas de destruction créatrice, les outils numériques sont un complément. », selon un cadre de mutuelle de santé. Ici encore, les acteurs de santé distinguent l’outil d’avec son usage.

Aucun des risques évoqués ne semble a priori insurmontable, pourvu que ceux qui s’engagent dans la conception d’un chatbot respectent quelques règles fondamentales.

Quelles précautions pour s’en prémunir

Prévenir les risques fonctionnels par le soin porté à la conception et la maintenance de l’outil.

En terme de méthodologie tout d’abord, il est important de se concentrer sur l’usage et de privilégier une démarche de co-conception avec des utilisateurs représentatifs. Plusieurs étapes de tests et de validations successives seront nécessaires jusqu’au lancement de la version 1. De même, la maintenance et « l’élevage » du chatbot dans la durée devront être assurés afin d’en garantir la pertinence dans la durée.

Les contenus du chatbot doivent être élaborés avec le plus grand soin, en sollicitant au besoin les expertises nécessaires : non seulement scientifiques, mais aussi techniques et rédactionnelles.

La certification ou l’attribution d’un label sont perçus comme des moyens efficaces d’assurer la qualité intrinsèque du chatbot tout en augmentant sa qualité perçue.

Enfin, il est important que le déploiement de la solution s’accompagne d’un effort pédagogique, auprès de l’utilisateur final comme de celui qui en conseillerait l’utilisation, dans un objectif d’appropriation et de familiarisation.

Respecter voire dépasser la réglementation en vigueur pour réduire les risques liés aux données de santé et à la cybersécurité.

Le Règlement de Protection des Données Personnelles (RGPD) s’applique dès lors que le chatbot collecte des données personnelles et de santé, ces dernières devant être hébergées sur des serveurs sécurisés « HDS » certifiés par l’Etat. Si les données revêtent un caractère particulièrement sensible, il peut être vertueux d’engager une démarche de cyberprévention active avec des spécialistes. Dans tous les cas, les utilisateurs devront être informés de manière transparente de l’utilisation qui est faite de leurs données, et à quelles fins.

Instaurer la confiance et adopter une approche éthique.

Agir dans l’intérêt général, respecter l’autonomie et le libre-arbitre de l’utilisateur, s’interdire de le manipuler par des astuces de conception (dark design[4]) sont certaines des conditions nécessaires à instaurer la confiance dans l’outil.

En terme de service rendu, les acteurs de la santé appellent à un usage maîtrisé de la machine : définir précisément son champ d’action, établir un contrat clair et transparent avec l’utilisateur, et n’entretenir aucune ambiguïté quant au caractère non-humain du chatbot.

Lorsqu’il a recours à l’intelligence artificielle, il est recommandé d’introduire des éléments de régulation de l’IA en santé afin de garantir le cadre éthique de cet usage[5] et de laisser à l’humain la possibilité (ou l’obligation ?) d’intervenir.

Enfin, le meilleur moyen d’accroître la confiance de l’utilisateur envers la solution reste encore de l’impliquer dans sa conception, de façon directe ou via des instances représentatives, dans une démarche de co-construction.

En conclusion, il ressort des échanges nourris avec les acteurs de la santé en France que seul un objectif d’excellence que se fixeraient les concepteurs peut permettre de prévenir et réduire les risques potentiels liés à la diffusion des chatbots dans le secteur de la santé. Pour autant, une telle ambition n’est pas suffisante à garantir le succès. Car aucun élément ne permet d’assurer que la mise à disposition d’une solution conçue dans les règles de l’art conduise à un changement effectif d’attitude ou de comportement chez l’utilisateur.

D’autre part, et au vu de l’intérêt croissant que suscitent les technologies conversationnelles, souhaitons que l’attention des commanditaires et des concepteurs se porte sur une question encore trop largement ignorée aujourd’hui : celle de l’évaluation de la performance des chatbots. Sur un marché fragmenté où le meilleur côtoie parfois le « gadget », l’utilisateur gagnerait à être mis en capacité de s’orienter et d’exercer un choix éclairé.

Pour aller plus loin :

[1] Un chatbot, traduit en français par « agent conversationnel », est un programme informatique destiné à accomplir une tâche définie dont la particularité réside dans sa capacité à interagir en langage naturel avec l’utilisateur, c’est-à-dire à simuler une conversation – cette dernière étant plus ou moins libre en fonction du degré de technicité de l’outil et du type d’interface utilisé (texte, voix, ou les deux).

[2] « Le chatbot : outil de persuasion ? Le cas de la santé en France », thèse professionnelle d’Executive Master Spécialisé Marketing et Communication soutenue à l’ESCP Europe en février 2019 par Joséphine Arrighi de Casanova sous la direction du Pr. Alain Ollivier.

[3] Selon les résultats d’une étude réalisée par Odoxa pour l’Université numérique en santé et en sport (Uness), les universités de santé et la conférence des doyens de médecine, dévoilés le 13 décembre lors des 16è Assises nationales hospitalo-universitaires. Source : TIC santé.

[4] La notion de dark design, dark UX, ou dark pattern, fait référence à des pratiques de design d’interfaces (page web, application mobile, logiciel, etc.) considérées comme non éthiques et destinées à obtenir l’action recherchée chez l’utilisateur.

[5] Cf. le principe de « garantie humaine de l’IA » selon David Gruson

« Les Chatbots, état des lieux et perspectives en santé » , Joséphine Arrighi de Casanova et Jacques Durand, Note de synthèse, Février 2019 (MAJ Mars 2019), Beesens.com

Nous remercions vivement Joséphine ARRIGHI DE CASANOVA, spécialiste des chatbots auprès des acteurs de la santé, et titulaire en 2019 de l’Executive Master en Marketing et Communication à l’ESCP Europe et du prix de la meilleure thèse professionnelle pour ses travaux intitulés : « Le chatbot : outil de persuasion ? Le cas de la santé en France ».

Elle propose de partager son expertise pour nos fidèles lecteurs de www.managersante.com

Biographie de l’Auteure :

Professionnelle expérimentée en marketing et communication B2B et B2B2C, multilingue, Joséphine ARRIGHI DE CASANOVA se spécialise dans les secteurs de la (e-)santé et du bien-être en 2017 après une première partie de carrière menée au service de grands groupes en restauration et en sécurité alimentaire.

Sortie major du programme Executive Master en Marketing et Communication à l’ESCP Europe en 2019, elle obtient le prix de la meilleure thèse professionnelle pour ses travaux intitulés : « Le chatbot : outil de persuasion? Le cas de la santé en France ».

Rédactrice et intervenante sur ce sujet, et plus largement sur la santé numérique, Joséphine consolide actuellement sa formation par un Diplôme Universitaire en e-santé et médecine connectée à Paris Descartes.

Elle met son expérience de la transformation digitale et la gestion de projets innovants au service des entreprises du secteur de la santé / bien-être pour lesquelles elle propose son offre de services en marketing & communication.

AGENDA 2019

Evénement à ne pas manquer,

la prochaine conférence de notre experte Joséphine ARRIGHI DE CASANOVA sur les Chatbots en Santé en France :

Mardi 02 Juillet 2019 à l’Université d’Eté de la E-SANTE : Intervention de notre experte Joséphine ARRIGHI DE CASANOVA Consultante en Marketing et Communication et spécialiste des agents conversationnels en santé auprès des entreprises et des établissements de santé.

#SANTEXPO 21>23 Mai 2019 (Salon International à Paris Expo)

(de gauche à droite) Julien LEVAVASSEUR (Président de la plateforme média digital d’influence ManagerSante.com ) et Jean-Luc STANISLAS (Fondateur de ManagerSante.com) tiennent à remercier Ramzi ALLOUACHE (Fondateur de BEESENS) , Joséphine ARRIGHI DE CASANOVA et le Docteur Jacques DURAND pour leur précieuse contribution dans dans la rédaction de cet article.