Qui sera le cerveau entre l’Intelligence humaine & l’Intelligence Artificielle ? Nesrine BENYAHIA, Docteur en droit, nous éclaire…

N°1, Février 2018

Du canard mécanique de Vaucanson en 1738 au robot Sophia en passant par le jeu de l’imitation d’Alain Turing, nous sommes loin d’être dans le futur, encore moins dans un film de science-fiction comme ce « nanar » de Stephen King « Maximum Overdrive » dans lequel les machines se soulèvent contre les hommes.

En réalité, nous vivons l’émergence d’une invention scientifique datant du 18^e siècle, voire même de l’Antiquité si on se réfère au distributeur de vin d’Héron d’Alexandrie (1^er siècle après J.-C.). L’idée, d’une simplicité complexe, était de simuler sur des machines des fonctions cognitives telles que l’apprentissage, la mémoire, l’exécution de tâches…

Autre référence cinématographique, « On utilise en moyenne 10% de nos capacités cérébrales. Elle est à 100% » nous indiquait Luc Besson sur l’affiche de son film Lucy (2014), une ineptie scientifique selon certains qui a pourtant déchaîné les fantasmes les plus fous sur le cerveau humain (un processeur géant de 100 milliards de neurones et un système de communication puissant)[1].

C’est le cerveau et son potentiel intellectuel qui a fait de l’Homme l’espèce dominatrice sur les autres.

Le potentiel intellectuel de l’intelligence artificielle mènera-t-il à l’établissement de nouvelles règles du jeu hors contrôle ? Irons-nous vers une puissance artificielle qui dominera l’Homme ? Quelle régulation appliquer ?

Crtl C + Ctrl V ou l’insoutenable automatisation de tous les « agents »

L’Homme, « l’agent » ou encore l’âme rationnelle d’Aristote[2], accomplit des tâches au quotidien, réfléchit, connaît, pense…Sa force intellectuelle fascine et est mise à l’épreuve. Ce challenge a commencé par l’automatisation de tâches physiques, des tâches d’exécution à travers les débuts de la machinisation des métiers.

A cet instant, aucun n’aurait pensé qu’une machine aurait pu réaliser des tâches à haute qualification intellectuelle, des tâches non répétitives pour lesquelles l’environnement et des paramètres extérieurs complexes doivent être pris en compte. En témoigne, le récent duel entre l’IA CaseCruncher Alpha (chatbot en renseignements juridiques) et une centaine d’avocats londoniens, l’IA a obtenu un taux d’exactitude de l’ordre de 86,6% contre 62,3% pour l’armada d’avocats en matière de calculs de taux de validation de réclamations par l’Ombusdman relatives aux ventes de PPI (payment protection insurance)[3].

Dans le secteur de la santé, l’IA d’IBM Watson peut traiter un nombre massif de données et de publications médicales et délivrer un diagnostic en fonction des données cliniques renseignées. C’est le cas par exemple en imagerie médicale dans le diagnostic de pathologies cancéreuses. L’agrégat d’images médicales peut aider à la détection de mélanomes de façon plus rapide, cette compilation d’images associée aux autres données médicales du dossier patient peut même faire passer l’IA d’acteur du diagnostic à acteur du pronostic. Dans le cas de la radiologie, le bouleversement est affligeant tant la profession est menacée par l’IA…

L’IA peut être un excellent co-worker, un outil d’aide à la décision surpuissant, mais elle reste une machine non dotée de la capacité humaine de discernement du vrai et du faux, elle agrège des données en masse sans pouvoir les différencier en fonction de leurs réelles valeurs.

L’IA ne se pose pas de questions, c’est l’Homme qui doit les lui poser.

Le rôle de l’action politico-publique

Les risques que peut présenter l’IA sont d’ordre social, juridique et politique.

Le rôle de l’Etat-régulateur est majeur dans la mesure où il n’est pas à l’origine de ces développements technologiques. L’objectif n’est pas de freiner ces évolutions technologiques, loin de là, l’objectif est de sécuriser l’usage qui en est fait, informer les citoyens de leurs droits notamment en matière de traitement de leurs données personnelles[4] et de l’utilisation de ces dernières.

En effet, et il nous faut le garder à l’esprit, l’ordinateur sans informations ne pourra ni apprendre ni automatiser l’action humaine…L’IA thésaurise les informations que l’humain décide de lui donner. A défaut de limiter la collecte de données, il serait opportun d’en contrôler l’usage et la protection.

Le cadre juridique et éthique de l’IA doit permettre de mettre fin aux fantasmes sociaux.

La mise en œuvre urgente de ce cadre est d’autant plus indispensable que l’IA est aujourd’hui évasivement définie : algorithmes ? Machine learning ? Deep leaning ? mais pour sûr un terme marketing par excellence utilisé sans discernement.

L’IA est source d’avancées considérables dans le domaine de la santé et nécessitera des règles du jeu en accord avec le régime juridique de la responsabilité des professionnels et établissements de santé notamment dans le cas des outils d’aide à la décision clinique fondés sur cette technologie.

L’IA nous permettra-t-elle d’avoir plus de temps libre pour créer ? Sûrement, mais l’automatisation d’une partie majeure des tâches reste aujourd’hui un problème non résolu en matière d’emplois, trop d’inégalités sociales subsistent pour pouvoir envisager sereinement le développement de cette automatisation.

Les qualifications et les formations des individus doivent absolument évoluer et intégrer l’émancipation numérique de la société, autrement l’IA sera et restera un problème pour les individus les moins qualifiés, et une solution voire une opportunité pour les individus les plus qualifiés, mais jusqu’à quand ?

Crainte de l’impuissance de l’Homme et morale, l’IA est-elle une contrefaçon ?

Miguel Benasayag, philosophe et psychanalyste franco-argentin, a écrit « le développement apparemment illimité des nouvelles puissances technologiques s’accompagne en effet paradoxalement d’un sentiment d’impuissance de plus en plus profond chez nos contemporains qui se sentent comme des feuilles dans la tempête, incapables de maîtriser le cours des événements, tant sociaux que personnels. »[5]

Nous ne sommes pas à l’ère du « grand remplacement », l’IA ne ressent pas, ne crée pas. L’émotion et la création restent la chasse gardée de l’Homme. Le cerveau de l’Homme est donneur de sens, il interprète et donne une signification aux choses, contrairement à l’IA qui est fondée sur une écriture logique, algébrique, rationnelle.

C’est l’Homme qui décide quel sens donner à cette écriture. L’Homme est la plume, l’IA est l’encre. La rature relève de la responsabilité de l’Homme. Sur le terrain de la morale, qui peut être définie comme « ne jamais faire le mal » selon Hypolite De Livry (1808)[6], le même schéma s’applique, si l’IA ne peut faire ce mal en elle-même, les commanditaires le peuvent.

N’arrêtons pas le progrès par ignorance et par peur de l’inconnu, agissons en faveur d’une intelligence artificielle clairement définie, délimitée, et encadrée.

Pour aller plus loin : 

[1]  Institut du cerveau et de la moelle épinière,

[2] Traité de l’âme. Aristote (III, 3-9).

[3] AI bat des avocats spécialisés dans l’affaire ShowCrunch Prédiction Showdown

[4] Règlement général relatif à la protection des données personnelles (RGPD), 27 avril 2016.

[5] Cerveau augmenté, homme diminué ? Miguel Benasayag, La Découverte. 2016

[6] Pensées, réflexions, impatiences, maximes, sentences. Hypolite DE LIVRY (1808).

Nous remercions vivement notre spécialiste, Nesrine BENYAHIA, Docteure en droit public, titulaire d’un Master en droit des industries et des produits de santé, d’un Certificate in Business Administration & Corporate Manager Certificate, ainsi que d’un Disruptive Technologies & Public Policy Degree de l’Ecole d’affaires publiques de Sciences Po Paris. Elle est Présidente et co-fondatrice de la société DrData dédiée aux solutions innovantes du BigData et à la protection et à la valorisation des données personnelles et plus particulièrement des données de santé, de partager son expertise en proposant des publications dans notre Rubrique Philosophie & Management, pour nos fidèles lecteurs de http://localhost/managersante 

Biographie de l’auteure : 

Nesrine BENYAHIA est Docteure en droit public, titulaire d’un Master en droit des industries et des produits de santé, d’un Certificate in Business Administration & Corporate Manager Certificate, ainsi que d’un Disruptive Technologies & Public Policy Degree de l’Ecole d’affaires publiques de Sciences Po Paris.  Nesrine est Présidente et co-fondatrice de la société DrData dédiée aux solutions innovantes du BigData et à la protection et à la valorisation des données personnelles et plus particulièrement des données de santé. Après plusieurs années dans l’industrie du dispositif médical d’imagerie chez Toshiba Medical France (aujourd’hui Canon Medical France) et la co-création d’un cabinet de conseil en santé et nouvelles technologies (BMC Consulting), Nesrine a contribué à la création et au développement du département santé numérique et protection des données du cabinet Houdart et Associés, dans lequel elle a également traité des problématiques relatives à l’organisation territoriale de l’imagerie médicale. Elle est membre associée de l’Institut droit et santé et publie régulièrement des articles scientifiques relatifs à la politique d’imagerie médicale. Elle enseigne l’environnement juridique des Partenariats Public-Privé appliqués à la santé et à l’innovation au sein du Master 2 Sciences Po Lille « Science of Management des Partenariat Public-Privé ».