N° 12, AVRIL 2018
Intervention de Muriel ROSSET, lors de la rencontre-colloque du Mercredi 4 avril 2018, à l’INSEEC, organisée par le Club Médical Numérique Francophone de l’Innovation Santé (CMNFIS) et BeeSens, la e-santé en partage
Le 4 avril 2018 à l’INSEEC, 15 orateurs d’expertises disciplinaires différentes ont pu partager leur expérience, regard et propositions pour :
- exprimer leurs souhaits de métiers, solutions et établissements de santé mieux reliés, coordonnés, connectés et mutualisés,
- questionner le consentement éclairé électronique du malade,
Ensemble, ils se sont demandé « comment l’éthique et le droit peuvent nous aider à mieux être au service des acteurs de santé ? » A l’occasion de cette journée, notre modératrice Denise Silber, à qui j’ai succédé l’après-midi, a su placer au cœur des échanges « le patient », avec un beau témoignage personnel de Guillaume DE DURAT. :
Témoignage : Guillaume DE DURAT est un champion recordman de ce que la E-santé doit nous aider à éviter : un magnifique tableau excel de 56 rendez-vous depuis 176 jours, et pas une seule personne qui n’aie vu son dossier médical en entier. Pas une seule qui n’aie vraiment pu prendre le temps d’écouter ce qu’il a à dire d’important, sans être obligé de répéter sans cesse les mêmes informations médicales.
Face à cette situation ubuesque, Guillaume ne serait pas contre parler à un chatbot, au contraire ! Au moins, celui-ci pourrait enfin lui laisser dérouler sa liste des besoins de santé à traiter, et lui permettre d’exprimer ce qu’il a sur le cœur lorsqu’il rencontre un professionnel de santé…
L’éthique pour nous éclairer et nous accompagner
Pour ma part, j’ai choisi de placer mon intervention-regard en matière de santé et éthique en m’appuyant sur les rapports de la CNIL et de Monsieur Cédric VILLANI .
Merci à Ramzi Allouache, CIO de BeeSens la e-santé en partage et au Club Médical Numérique Francophone Innovation et Santé, que j’ai eu plaisir à accompagner avec d’autres dans l’organisation de cette belle journée « éthique et droit au service des acteurs de santé » du 4 avril 2018.
Merci à vous lecteurs qui partagerez et commenterez cette mise en perspective. Je serai heureuse d’accompagner tous ceux qui aiment voir et dire « ce qui est sous nos yeux », pour éclairer des lendemains respectueux de chacun et de tous
- avec une médecine personnalisée et participative toujours plus effective,
- une santé pour tous toujours plus équitable !
« La souffrance est privée, la santé est publique », Paul Ricoeur
Ce qui est intéressant, dans le récent rapport de la CNIL de décembre 2017 sur les enjeux éthiques des algorithmes et de l’intelligence Artificielle (IA).
- la façon dont la CNIL apporte des pistes de réponses à sa question « comment permettre à l’homme de garder la main »,
- la façon dont elle le fait en articulant ce qui relève du privé et du public, de l’individuel et du collectif.
Commençons par répondre aux critiques des commentateurs, -pour qui penser éthique c’est penser dans le vide-, en reprenant l’appel de la Cnil à plus de transparence.
La demande de transparence, évoquée en introduction du rapport de la CNIL, est récurrente dans les nombreux ouvrages qui paraissent sur la révolution du numérique et du big data. Ainsi, un livre parle de « l’homme nu » face à la dictature invisible du numérique, « big mother douce et totalitaire à la fois », alors que le big brother du 1984 d’Orwell était beaucoup plus violent.
Pour bien comprendre cet homme nu, je voudrais rappeler l’idée de Freud concernant les trois humiliations subies par l’homme au cours de l’évolution de l’humanité.
D’humiliations en humiliations, l’homme creuse son humanité
La première humiliation remonte à Copernic : l’homme n’est pas au centre de l’univers. Catastrophe ! Certains récits bibliques en ont fait les frais notamment, à devoir comprendre les récits de la Genèse dans une lecture non plus littérale, mais symbolique de ce qui sera découvert plus tard sur l’histoire du big bang. Depuis, on parle de révolution copernicienne quand on parle d’innovation, rupture, changement, « disruption » dirait-on aujourd’hui.
La deuxième humiliation de l’homme vient avec Darwin : l’homme n’est pas au centre des espèces humaines. Pire, il descend du singe….
La troisième humiliation vient avec Freud : je ne suis pas maître de moi-même, et pas aussi capitaine de mon âme que je ne le voudrais, gouverné que je suis par mon inconscient….
Avec le big data, on parle de quatrième humiliation : l’homme ne serait plus au cœur de ses propres données et informations. Celles-ci finissent par le dépasser, alors que l’homme en est à l’origine.
Donnée, information, connaissance et sagesse, quel est mon et notre ordre de priorité ?
La donnée, ce n’est pas nouveau. L’homme a toujours connu la data. Ce qui a changé, c’est le big, et l’ordre des priorités entre la connaissance, l’information et la donnée, dont le rapport s’est inversé.
- La donnée, en santé, c’est par exemple un relevé de température,
- L’information, ce serait une courbe de température pour les relier,
- La connaissance, c’est en déduire une maladie, ou une période de fécondité,
- Le must, la sagesse, c’est de savoir quoi faire, et comment vivre avec.
L’histoire semblerait prendre un ordre inverse…
- Le siècle des lumières a valorisé la connaissance.
- Après la révolution, l’arrivée de la presse a valorisé l’information, devenu 4° pouvoir face aux pouvoirs exécutifs, judiciaire et législatif.
- Désormais, on parle de la donnée comme nouvel or noir. « Celui qui deviendra le leader dans ce domaine sera le maître du monde », dit Poutine, que Villani cite dans l’introduction de son rapport.
Pour Cédric Villani, l’Amérique a gagné la guerre économique de la donnée, il nous reste à gagner la bataille des données spécialisées, notamment en santé. « Ne soyons pas champions d’éthique pendant que les autres seraient champion de business« , a rappelé le PDG du CNRS au sommet parisien « IA for the humanity » !
En vérité,
- le business sans éthique est sans chair et sans coeur, sans vie et sans âme, autodestrucuteur, comme l’a été la financiarisation des entreprises,
- l’éthique sans business n’est qu’utopie sans avenir durable.
Dans le rapport Villani, le premier des six éléments évoqués est bien économique, et parle de mettre les data au cœur de la politique économique. L’éthique n’est ainsi citée qu’en cinquième point. La base de la pensée complexe étant d’avoir une approche pluridisciplinaire, je fais le voeu que les deux avancent en complémentarité.
Quand on demande à Cédric Villani ce qu’il a appris sur l’Intelligence artificielle, il insiste toutefois sur le fait que « la partie la plus délicate, c’est bien la façon dont nous allons interagir avec elle, ce qui fait de l’IA un réel sujet sur la société, où une grande partie des changements sera invisible« , dit-il dans une interview au journal La Croix.
L’invisible, une vieille histoire humaine à redécouvrir
En réalité, la notion d’invisible dans nos vies n’est pas du tout nouvelle.
- Avec Adam Smith, on parlait déjà de la main invisible du marché et de l’économie,
- Un certain petit prince nous parlait de l’essentiel invisible pour les yeux…
Bref, « dans le mystère invisible de nos vies,
qu’est-ce que les algorithmes apportent comme nouvel invisible ? »
Voir ce qui est sous nos yeux
Pour voir l’invisible qui ne se voit pas, je propose de partir de Foucault. En tant qu’enseignante en philosophie et management et responsabilité sociétale des entreprises, j’aime beaucoup reprendre cette citation avec mes étudiants.
« Comment donc permettre à l’homme de garder la main,
en faisant voir ce qui est sous nos yeux ? »
La CNIL commence par définir les algorithmes et l’IA, pour donner six repères éthiques et quelques réponses concrètes. Elle propose deux principes afin de fonder ses repères, que j’ai illustrés par deux livres.
Deux principes fondateurs proposés par la CNIL
Des promesses pour la santé
Dans le domaine de la santé, l’annexe CNIL et le focus Villani nous annoncent quelques belles promesses, que je pourrais résumer en deux mots forts : prévenir et rationaliser.
Six principes éthiques pour nous éclairer et inspirer un cadre juridique
Je reprendrai en fin d’article six images de mon intervention, pour me concentrer ici sur quelques lignes inspirantes d’un très beau livre. Ce livre est un véritable petit traité avec mode d’emploi sur la condition humaine aujourd’hui, considérée sous l’angle de la catastrophe à répétition.
« Comment garder la main » demande la Cnil ? Une question pas si récente
Dans ce livre-lettre, Günter Anders, rescapé de la Shoah, s’adresse au fils d’Eichman.
Il ne lui demande pas d’assumer ce qu’a fait son père dans l’extermination des juifs, non, il l’invite à se désolidariser de lui.
Ce témoignage nous rappelle que le phénomène de l’autonomie des machines remonte à bien longtemps. Aussi, face à la technologie toujours grandissante, Günter Anders en appelle à notre devoir de sentir, il nous invite à tous être les fils des nazis, les fils d’Eichmann, pour nous poser cette question : « et nous, qu’aurions-nous fait ? »
Notre monde en effet est obscur, trop énorme, trop démesuré dans ses performances et dans la médiation illimitée de nos processus de travail (-on pourrait dire aujourd’hui, dans la médiation illimitée de l’IA-).
Le fossé se creuse entre nos devoirs et notre force de sentir. Le trop grand nous laisse froid et intouchés. Six millions de morts demeurent pour nous un simple chiffre, tandis que l’évocation d’une dizaine de tués aura peut-être encore quelque résonance en nous, et que le meurtre d’un seul homme nous remplit d’effroi. Cette carence-là permet la répétition des pires choses. Notre mécanisme de freinage aboutit à l’arrêt total, dès qu’un maximum est dépassé.
Heureusement, notre défaite morale est une chance. Il existe en effet, inhérente au choc de notre impuissance, une force qui nous avertit. Une peur salutaire doit nous pousser à combattre une action dont on ne peut imaginer les effets, même si nous le faisons rarement parce que nous sommes des travailleurs subalternes, non intéressés au résultat de notre travail.
Eichman a planifié le monstrueux et aurait dû en tirer une leçon.
Aujourd’hui, face aux défis des algorithmes, notamment dans la santé, la question de Günter Anders reste la même : « que pouvons-nous et que voulons-nous faire? »
Frémissez-vous de peur, de colère ou de joie?
Chaque année, Ipsos publie un état des lieux du moment. Les dernières années s’intitulaient funambules, puis divergences. Cette année, son titre est frémissements. A l’écoute des évolutions repérées par Ipsos en 2018, frémissez-vous de colère, de peur ou de joie face aux changements en cours ? Comment éveiller et e-veiller notre conscience éclairée ?
Voulons-nous seulement développer notre QI, pour répondre à l’appel du docteur Alexandre dans son livre « la guerre des intelligences »,
Voulons-nous au contraire développer une intelligence plurielle et interrelationnelle ? « Partager nos solitudes acceptées et échanger nos différences respectées », selon la très belle expresssion de la reliance d’Edgard Morin ? Reconnaître nos fragilités comme un besoin de saine interdépendance ?
Pour répondre à ces questions, voici résumés les six repères éthiques de la CNIL, tels que je les ai illustrés lors du colloque du 4 avril 2018.
En 2009, Philippe Besse, professeur de mathématiques et statistiques, a pointé le fait que 96% des échantillons d’une base de données utilisée pour développer la médecine personnalisée s’appuient sur des personnes qui ont des ancêtres européens. Sa conclusion est sans appel : si on est une femme d’origine africaine et jeune, la médecine personnalisée ne nous concerne pas.
Le rapport Villani lui-même est critiqué comme hélas très franco français, 113 de ses 135 propositions relèvent des usages et du marché de l’IA en France, et pas dans le Monde.
En épigénétique, on doit croiser des données génétiques de l’individu et des données plus environnementales sur son écosystème, ce qui pose la question de savoir comment protéger les données personnelles et favoriser les progrès médicaux.
La CNIL rappelle l’importance d’avoir en permanence des données non périmées à traiter, ce qui est un réel travail, et d’avoir suffisamment de données pour bien pouvoir les interpréter. Elle donne l’exemple de professeurs de bonne notoriété renvoyés sur la base d’un logiciel de progression qui s’appuyait sur seulement quelques dizaines d’étudiants à problème.Ces questions sont loin d’être simples, et demandent beaucoup de sens critique, on revient au principe de vigilance à articuler avec la loyauté.
En enjeu conclusion, la CNIL nous appelle à ne pas oublier qui nous sommes, quelle est notre identité humaine. Elle nous replace pour cela dans la philosophie grecque, en nous donnant l’exemple d’Antigone. Pourquoi Antigone ? Sans doute parce qu’au-delà du droit d’un pays , l’éthique reste toujours personnelle. L’éthique, c’est toujours quelque part faire face à des situations inédites, à des conflits de valeurs et trouver personnellement une solution. Personnellement mais aussi collectivement.
Le rapport Villani pose le besoin de cap, de sens et de signification, mais le sens en réalité se découvre en chemin, dans une éthique de délibération et discussion, de conviction et de responsabilité.
N’hésitez-pas à laisser vos commentaires… Muriel ROSSET, vous répondra avec plaisir !!!
Nous remercions vivement Muriel ROSSET, Enseignante et formatrice en philosophie et management , qualité de vie au travail, RSE et méthodes collaboratives (Université Paris-Descartes, EPF école d’ingénieur, Haute Ecole Ferrer de Bruxelles), coach, auteur & consultante.
Muriel accompagne les professionnels et e-patients que nous sommes tous à devenir des acteurs partenaires de notre santé physique, psychologique et sociale. Elle est aussi présidente de l’Alliance francophone TPL borderline pour la psychoéducation des familles
Elle partage son expérience professionnelle pour nos fidèles lecteurs de www.managersante.com
