L’intelligence artificielle, le droit et la médecine
Allons-nous bientôt être soignés par des robots plus compétents que des médecins ? Si oui, qu’en sera-t-il du statut de la machine ? Des liens juridiques entre elle et le patient ? Nous publions ci-après le texte d’une conférence de Me Xavier Labbée donnée lors du colloque « l’IA en blouse blanche », organisé à l’Université de Lille le 18 janvier 2024 par les étudiants de l’ILIS (ingenierie et management de la Santé).

Il y a quelques années, l’intelligence artificielle a pu relever un défi en matière artistique : après avoir fait avaler à la machine toutes les œuvres de Rembrandt, on lui a demandé de réaliser un tableau représentant un homme de trois quart à la manière de Rembrandt. Et la machine l’a fait : les experts ont été bluffés. Il s‘agissait bien d’un original et non d’une copie. Il s’agissait bien d’une nouveauté. Sans doute de meilleure qualité que ce qu’aurait pu réaliser l’artiste lui-même… Et l’on s’est interrogé : qui est l’auteur de ce nouveau tableau ? Rembrandt ? L’inventeur du logiciel ? Ou celui qui l’a commandé ? Ou pire encore, la machine elle-même, comme certains l’ont affirmé ?
La même machine qui a réalisé un vrai-faux Rembrandt, ne pourrait-elle pas en matière juridique rendre un jugement ? Et en matière médicale rendre un diagnostic et prescrire un traitement ?
Chez les juristes, l’arrivée de l’intelligence artificielle et des nouvelles technologies a entrainé des changements radicaux dans les habitudes. Un jeune diplômé qui aborde aujourd’hui la profession d’avocat n’exerce pas du tout le métier qu’on exerçait encore il y a vingt ans. Pour travailler, un avocat est obligé désormais d’avoir un ordinateur relié au net et une clé qui lui permet d’accéder aux services de la justice par la voie du RPVA. Il ne peut pas faire autrement. Il doit donc nécessairement acquérir les connaissances numériques …et le matériel que cela suppose. Mais sur le fond on s’interroge : la machine est capable – à ce que l’on dit – de résoudre seule un problème en rédigeant une consultation… alors à quoi sert l’avocat ? Et quand on constate que dans certains pays européens comme la Lettonie, c’est la machine qui juge seule les litiges privés inférieurs à 10 000 euros, on se dit qu’à plus ou moins long terme, la machine remplacera l’avocat et le juge[1].
Ce questionnement se retrouve dans le monde médical qui n’a pas été épargné par l‘arrivée des nouvelles technologies et de l’intelligence artificielle. Vont-elles remplacer le médecin ou doivent-elles se contenter de l’assister ?
De fait, l’intelligence artificielle est capable d’emmagasiner des quantités incalculables de données et de connaissances. Elle peut non seulement calculer, traduire, corriger, écrire et parler dans toutes les langues, mais elle peut aussi faire le tri parmi les connaissances acquises et donner des solutions à un problème qu’on lui pose. En médecine, Il existe des logiciels capables de diagnostiquer une maladie en détectant des choses que l’œil est incapable de voir. Et il y a aussi des logiciels capables de prédire une maladie dans le cadre d’une démarche prédictive[2].
Mais tous ces logiciels qu’on nomme « d’assistance » ne sont pas réservés à une élite de médecins spécialistes ou de chercheurs universitaires exerçant en laboratoire : à titre d’exemple, nous pouvons citer la startup « synapse médecine » qui a élaboré en 2023 un logiciel extraordinaire qui devrait révolutionner le sort du médecin généraliste de quartier exerçant en libéral[3] : ce logiciel est capable d’écouter la conversation entre le praticien et son patient tout en analysant les émotions de ce dernier. Si l’on en croit le document publicitaire vantant les mérites du nouveau matériel, il peut ensuite remplir un formulaire décrivant les symptômes, le diagnostic et les examens ou médicaments prescrits. Il est d’ailleurs capable de choisir le meilleur médicament en tenant compte de l’âge et de la situation concrète du patient, de ses allergies. Et en plus, il ne garde pas en mémoire les informations analysées et exploitées. Le public – toujours inquiet du sort des données médicales communiquées – peut ainsi être rassuré. Son utilisation ne présente aucun problème lié à la sécurisation des données médicales. On peut donc lui faire confiance d’autant qu’il a été testé ainsi qu’il est rappelé. La conclusion est lapidaire : la machine réussit à diagnostiquer avec justesse des pathologies là où le professionnel à un doute… Et l’on ne peut s’empêcher de dire, avec effroi : « mais à quoi donc sert le médecin généraliste qui se trouve aux cotés de la machine qui fait tout…. sinon à encaisser le chèque représentant le montant de la consultation ? » Mais le prix payé par le client est-il bien encore celui de la consultation ou de l’amortissement du logiciel ?
La sensation d’effroi est encore plus vive lorsque l’on conjugue le développement de l’intelligence artificielle avec les progrès enregistrés dans le domaine de la robotique : il existe aujourd’hui à ce que l’on dit, des robots d’assistance qui font par exemple la conversation aux malades dans les hôpitaux ou les maisons de retraite, et qui accompliraient même certains gestes. Ces robots prennent parfois la forme humanoïde et ont acquis depuis peu l’autonomie totale (Elon Musk l’avait promis). Lorsqu’ils sont humanoïdes, ils sont plus beaux que les humains et sont capables d’émotions : nous avons souvent évoqué le cas de la femme robot qui rougit quand on la courtise…Elle parle toutes les langues et peut réciter Verlaine à son interlocuteur[4]… Mais en plus elle est sobre, ne vieillit pas, ne dort pas, ne mange pas, peut être programmée selon le désir de son propriétaire pour satisfaire ses envies les plus intimes… et ne coute rien à l’entretien. N’est-ce pas le rêve de tout homme ?
Alors on se dit que si l’on installe le logiciel du parfait médecin généraliste, dans la carcasse d’un robot humanoïde… ne devient-il pas naturel de préférer le médecin robot (qui ne se trompe pas, travaille de jour comme de nuit, est toujours de bonne humeur et ne coute rien) à son homologue humain qui peut être fatigué, mal luné, alcoolisé, vieux ou crasseux ? Le robot humanoïde intelligent tel que décrit n’est-il pas supérieur à l’homme ? Mais alors quel est son statut juridique ?
Ce questionnement est tellement vrai que la première réaction du juriste a été de vouloir personnifier le robot intelligent : il faut lui donner la personnalité juridique comme on le fait naturellement pour l’homme. Il faut considérer le robot autonome doté d’une intelligence artificielle comme une personne (1). Mais la seconde réaction a été plus nuancée…. (2)
L’intelligence artificielle et le droit des personnes
Cette volonté personnificatrice est apparue chez les juristes il y a une dizaine d’années. Des thèses ont été soutenues dans différentes universités[5] et dont l’objet, pour certaines, visait à créer une nouvelle catégorie de « personnes » (on a parlé de « personnalité technique ») dans laquelle on aurait pu ranger l’intelligence artificielle et certains robots dotés d’une intelligence forte et d’un certain degré d’autonomie. L’initiateur de l’analyse personnificatrice en France est Maitre Alain Bensoussan présenté comme le spécialiste de la question[6].
Mais il faut rappeler la définition juridique de la personne.
Etre une personne, en droit, c’est être titulaire de la qualité de sujet de droits. Cette qualité immatérielle et désincarnée (qui évoque ce que d’autres appellent l’âme) permet au sujet d’exercer les droits dont il est titulaire (droits que l’on réunit en un patrimoine, depuis Aubry et Rau) et de les défendre en justice. Parce que je suis une personne, je peux passer un contrat, je peux voter…. et exercer plus généralement tous mes droits subjectifs. Mais le sujet de droits est avant tout un être responsable : il répond civilement et pénalement de ses actes. Parce qu’il est une personne, on peut lui faire un procès.
C’est ainsi qu’ont naturellement la qualité de sujets de droit les personnes physiques de la naissance à la mort. Ont également la personnalité juridique (mais cette fois par fiction) les groupements d’individus entrant dans une forme définie par la loi (comme les associations, les sociétés, ou encore l’état, des départements, des communes). N’ayant pas de « physique » ces groupes sont titulaires de la « personnalité morale ». En revanche, les animaux ne sont pas des personnes mais des choses. Ce ne sont pas des sujets, mais des objets de droit.
Faut-il accorder la personnalité juridique à l’IA ? Des juristes ont imaginé créer une nouvelle catégorie de personnes dans laquelle elle pourrait entrer. Et l’importance du mouvement personnificateur a été telle qu’une résolution du Parlement Européen a été prise le 16 Février 2017 ; elle suggère « la création à terme, d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables, tenues de réparer tout dommage causé à un tiers »… Un robot est donc bien une personne puisqu’il peut être condamné à réparer le dommage qu’il cause.
Des thèses, des articles, des livres et une résolution du parlement européen… forment un corpus juridique digne d’intérêt qui remet irrémédiablement en cause la distinction des personnes et des choses, summa divisio du droit. Ce n’est pas rien. A quoi aboutit concrètement l’analyse ?
Si nous l’appliquons à la médecine, nous avons face à nous un robot médecin qui va donc pouvoir passer un contrat de soins avec ses patients, qui va prescrire des médicaments après avoir diagnostiqué la maladie, puis qui va encaisser le montant de la consultation, mais qui va aussi souscrire une assurance (avec le robot de la compagnie d’assurances) pour couvrir les risques liés à son activité. On peut imaginer également qu’il sera capable de régler les charges de son activité et tiendra une comptabilité d’excellence. Sera-t-il conventionné comme son homologue humain ? Et à quel tarif ? L’arrivée du robot médecin pourrait tout à coup régler la question du déficit de la sécurité sociale à supposer que le prix de sa consultation soit fixé à quelques euros… Car un robot travaille mieux et surtout moins cher que son homologue humain…
Tout ceci est aujourd’hui parfaitement réalisable sur le plan technique.
Nous constatons que la personnalité juridique du robot médecin est limitée à son activité médicale. Mais c’est une personnalité quand même. Et tout porte à croire que son activité médicale serait mieux gérée que celle de son homologue humain… La conséquence de l’analyse personnificatrice réduite à l’activité médicale, est que l’on peut faire un procès au robot médecin en cas de faute médicale exactement comme on le ferait pour un médecin. Mais comme la personnalité du robot est limitée à l’activité médicale, on ne peut pas lui faire par exemple, un procès pour troubles de voisinage ou tapage nocturne.
La résolution du parlement européen n’a pas laissé les juristes français indifférents… Les gardiens du temple ont réagi[7]. Indépendamment du fait que l’arrivée du robot médecin signerait la mort de l’activité médicale humaine, l’arrivée du robot « tout court » personnifié signerait la mort de la société.
La doctrine n’a pas manqué de rappeler que le droit s’est construit sur la distinction des personnes et des choses… Les personnes sont protégées par le droit civil et pénal des personnes. Les choses sont protégées par le droit civil et pénal des biens. On épouse une personne, mais on achète une vache… ou un robot. On peut être coupable d’enlèvement ou de séquestration d’une petite fille. Mais on se rend coupable de vol et de recel si l’on emporte (dans un geste identique) le chien du voisin, la momie du musée, l’embryon congelé du Cecos… Le lien qui unit une personne à une autre est un lien d’obligation. Le lien qui unit une personne à une chose est un lien d’appartenance. On est parent d’un enfant, mais « auteur » d’un embryon ou d’une œuvre littéraire. La dualité « personne/chose » existe ainsi depuis que le droit existe, c’est-à-dire depuis le l’humain est entré en civilisation. Autant dire que sa remise en cause signerait peut être la fin de la civilisation…
Il n’y a pas de 3eme catégorie ni même de catégorie intermédiaire… Et il ne nous paraît pas souhaitable, du moins dans l’immédiat, d’en créer une…. [8]La plaidoirie de la vieille garde a été longue mais elle a été finalement entendue. Un robot – fut-il plus intelligent que l’homme – n’est jamais qu’une machine… C’est-à-dire une chose qui a un fabricant et un propriétaire. Il n’est plus question, pour l’instant du moins, de parler de personnification de l’intelligence artificielle. Mais ce n’est peut-être que partie remise.
L’intelligence artificielle et le droit des biens
Le Parlement européen a donné le 13 Juin 2024 une définition de l’intelligence artificielle qui a vocation à s’appliquer dans toute l’Europe[9]. Ce texte ne parle plus de personnification. Sans doute a-t-on estimé que le public n’est pas encore prêt à accueillir cette notion… Le projet personnificateur n’est pas abandonné pour autant. Il semble renvoyé à une date ultérieure… Et c’est une bonne chose.
Puisqu’on ne parle plus de personnification et que le droit n’est divisé qu’en deux catégories, force est de placer l’intelligence artificielle et le robot dans la catégorie des biens. Peut-on donner une définition plus fine ?
Le texte du 13 Juin 2024 définit l’intelligence artificielle comme un « système » consistant à « générer des sorties, telles que des prédictions, des recommandations ou des décisions, qui peuvent influencer l’environnement physique ou virtuel , et la capacité à inférer des modèles ou des algorithmes, ou les deux à partir de données » Les techniques qui permettent de construire un système d’intelligence artificielle comprennent « des approches d’apprentissage à partir de données, mais également des approches fondées sur la logique et les connaissances ». Le texte précise encore que les système d’intelligence artificielle sont conçus pour fonctionner à différents niveaux d’autonomie et bénéficient d’un certain degré d’indépendance dans leur action par rapport à une ingérence humaine, ou sans intervention humaine.
Nous retenons de cette définition que l’intelligence artificielle est un système capable de raisonner seul. Comme c’est sans doute inquiétant, le règlement interdit – en les décrivant – toute une série de pratiques[10]. On frémit à l’idée de penser que ce qui est interdit aujourd’hui sera permis demain… Tant la bioéthique est molle…
L’intelligence artificielle ressort donc d’un logiciel brevetable. C’est donc le droit des brevets et de la propriété intellectuelle qui va s’appliquer pour protéger son concepteur.
Une fois brevetée, l’intelligence artificielle affectée à la médecine peut entrer dans la catégorie des « dispositifs médicaux » tel que le décrits par le Code de la santé. Nous renvoyons à la législation décrivant le régime des dispositifs médicaux pour définir le régime juridique de l’IA.
En remettant à une date ultérieure le projet de personnification du robot, le Parlement européen semble nous dire que la société doit rester humaine. Mais comme la chose ne semble pas aller de soi, le Comité National d’éthique a pris la peine de rappeler que la « médecine est humaine »[11]. Ce qui veut dire que celui qui l’exerce est avant tout un humain et ne peut être qu’un humain… qui a prêté le serment d’Hippocrate fondé lui-même sur l’humanité.
Ce qui veut dire encore qu’il n’est pas interdit pour un médecin d’utiliser du matériel fut-il plus intelligent que lui ; mais s’il le fait, c’est sous son entière responsabilité. C’est lui qui signe l’ordonnance et signe la prescription. Il peut se ranger à l’avis de l’intelligence artificielle mais il n’y est pas tenu. C’est en tout cas le médecin qui est responsable en cas de dommage et c’est contre lui (et non contre la machine) que le patient fera s’il y a lieu, une procédure. Quitte à ce que le médecin assigné appelle en la cause le concepteur du logiciel, son fabricant, son installateur… et que le tribunal fasse le tri.
Ce qui veut dire encore que si le médecin utilise du matériel complexe… Il doit se mettre au niveau pour le faire convenablement : un médecin qui utilise l’intelligence artificielle doit avoir une formation numérique… . N’est-ce pas finalement un devoir ? Ne pourrait-on faire le reproche à un praticien de ne pas se servir de l’intelligence artificielle ? Un médecin n’a-t-il pas l’obligation de soigner en tenant compte de l’évolution des données de la Science et des outils que celle-ci propose ? La délivrance du diplôme de médecin ne va-t-elle pas être conditionnée à l’assimilation des pratiques numériques ?
La notion de faute médicale n’est-elle pas inévitablement amenée à se modifier ?
Ce qui suppose enfin une redéfinition du lien patient médecin : ce lien est fondé sur le consentement qui est donné par le patient, consentement qui doit être libre et éclairé. Ce qui veut dire qu’il existe un devoir d’information du praticien envers le patient : dans le cadre de l’obligation d’information, le médecin n’est-il pas désormais tenu d’informer le patient qu’il utilise l’intelligence artificielle ? Et n’est-il pas tenu de commenter le diagnostic donné par la machine et de l’expliquer ? Quoi qu’il en soit, l’intelligence artificielle ne remplace pas le médecin, mais elle l’assiste. Mais pour combien de temps encore ?
Et demain ?
Nous avons dit que la personnification n’est pas pour l’instant souhaitable. Pourquoi en parle-t-on alors ?
Il nous faut évoquer le post-humanisme dont parlent depuis une quinzaine d’années certains scientifiques. Le post-humanisme serait la période qui s’ouvrirait après la disparition de l’humanité qui parait aux yeux de certains aujourd’hui inévitable. On parle d’Apocalypse.
La chose en fait n’est pas nouvelle, puisqu’on en parlait déjà avec Saint Jean il y a 2 000 ans. Jésus Christ reviendra annoncé par des anges et leurs trompettes, sauver l’humanité en péril, après l’avoir jugée. Pour gagner l’immortalité (que recherchent également aujourd’hui les transhumanistes) Saint Jean nous propose d’augmenter notre âme en changeant nos habitudes. Convertissez-vous et vous aurez la vie éternelle dans la Jérusalem céleste !
Si on parle encore d’apocalypse aujourd’hui, le remède n’est plus le même pour tenter d’y faire face. Conscient du caractère inexorable de sa disparition prochaine, l’homme serait en train de se transformer, non pas en son âme pour devenir meilleur mais, plus prosaïquement, en son corps, pour être plus fort et plus solide. Car le premier élément de sa personne n’est plus son âme, mais son corps. Plus profondément, Il serait également en train de construire son successeur, inusable à défaut d’être immortel, insensible aux maladies et aux famines, et au dérèglement climatique. C’est le robot humanoïde qui prendra le relai que lui tend l’humain arrivé en bout de course. Le robot a donc bien vocation à remplacer l’homme puisqu’il a disparu.
Dans cette post humanité, il n’y aura plus de différence entre les personnes et les choses, tout ce qui est humain aura disparu (les sciences humaines, le droit, la médecine mais aussi les notions de faute, de péché, d’erreur, de maladie, … et plus profondément de liberté). L’intelligence artificielle aura pris la place de la divinité. Ce qui n’est pas mieux : on n’est pas obligé de croire en Dieu, mais on ne pourra pas échapper à l’IA qui conduira, dans la soumission totale, la destinée des post-humains devenus de simples machines animées.
Jésus Christ ne reviendra pas sauver les post-humains.
[1] Xavier LABBEE. Portrait de l’avocat 2.0 et de sa future femme robot bâtonnière. Actu-Juridique, 25 juillet 2023.
[2] Utilisations de l’IA en médecine.
[3] CompuGroup Medical IA et médecine générale : les enjeux et les défis de la formation des professionnels de santé en cabinet libéral 24 Avril 2024 www ;cgm.com. V° 2galement Brent Mittelstadt L’impact de l’intelligence artificielle sur les relations patent-médecin. Rapport commandé par le comité directeur pour les droits de l’homme dans les domaines de la biomédecine et de la santé.
[4] Xavier LABBEE. Épouser une femme robot, 2014 Gazette du Palais n° 352 ; Le robot mari libère la femme Gazette du Palais 7 Mars 2017
[5] Guillaume GUEGAN. Toulouse, 2016. L’élévation des robots à la vie juridique. Dir Jacques LARRIEU.
[6] Alain BENSOUSSAN Le droit des robots. LARCIER 2015
[7] V° par exemple Jean René BINET Personnalité juridique des robots : une voie à ne pas suivre. Dr. Fam 2017 repère 6 Grégoire LOISEAU Responsabilité Journal du droit de la santé et de l’assurance maladie JDSAM p 21 à 24.
[8] Xavier LABBEE La confusion juridique des personnes et des choses. Un péril mortel pour l’humanité ? L’harmattan. 2022. V° Pierre François EUPHRASIE Contribution à l’élaboration d’un droit civil du robot Thèse Bordeaux 2023.
[9] Règlement UE 2024/1689 du Parlement européen et du Conseil du 13 Juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle. JOUE du 12 Juillet 2024.
[10] Toutes les pratiques qui auraient pour conséquence de manipuler le comportement humain et contourner le libre arbitre, ou toutes celles qui auraient pour conséquence de créer des catégories biométriques en utilisant des caractéristiques sensibles (comme les opinions politiques, religieuses ou l’orientation sexuelle) ou encore des systèmes d’identification biométrique à distance en temps réel (sauf lorsqu’il s’agit de repérer un terroriste ou l’auteur d’une infraction…) :
[11] CCNE. Avis 141 13 juin 2023 Diagnostic medical et intelligence artificielle. Enjeux éthiques.
Référence : AJU495965
