Le robot, bien ou personne ? Un enjeu de civilisation ?
L’intelligence artificielle justifie-t-elle l’octroi d’une personnalité juridique au robot autonome qui possède pourtant tous les traits juridiques d’un bien ? Si le Parlement européen répond positivement en adoptant, le 16 février dernier, le rapport de la députée Mady Delvaux, affirmer la nature juridique de bien du robot constitue un enjeu de civilisation, à défendre.
L’intelligence artificielle induit-elle la personnalité juridique du robot ?
Qui sera responsable des dommages causés par un robot, autonome en raison de son intelligence artificielle ? La réponse semble simple : le gardien du robot, propriétaire, ou utilisateur. Le robot ne peut être responsable de ses actes.
Pourtant cette évidence n’est pas évidente. La possession de l’intelligence artificielle justifierait, de l’attribution d’une personnalité juridique au robot autonome afin qu’il supporte la responsabilité de ses actions dommageables. C’est ce que soutiennent la députée européenne Mady Delvaux, ou Maître Alain Bensoussan1, par ailleurs président de l’association du droit des robots2, Pour d’autres, l’intelligence artificielle, ne justifie pas d’une telle personnalité. Le robot est un bien dont le gardien est seul responsable.
Alors le robot : bien ou personne ? Il y a là une importante controverse juridique3. Afin de fournir les tenants et les aboutissants de cette controverse, on ne rapportera ici que les arguments en faveur et contre la personnalité juridique du robot, véritable enjeu de civilisation.
I – L’autonomie due à l’intelligence artificielle, conférerait une personnalité juridique au robot
Absurde !, dira-t-on. En apparence seulement, car la proposition de créer une personnalité juridique du robot autonome pour réagir aux difficultés juridiques qui en découlent, s’avère un moyen discret au service de la commercialisation de robots autonomes. Cette finalité, nécessite un modèle économique et juridique propre qui s’inscrit dans le libéralisme économique et juridique actuel. Affirmer la personnalité juridique du robot et donc sa responsabilité du fait de son autonomie, nécessite des moyens économiques de subsistance et d’assurances et implique tout un jeu de normes juridiques implicitement obligatoires, qui favorisent tant la commercialisation que l’usage sécurisé du robot. Pour ce faire deux séries complémentaires d’arguments sont utilisées.
La première est de nature sentimentale4 et psychologique. Parce qu’humainement on éprouve des sentiments à l’égard du chat, du chien ou du canari familial, ou encore de sa voiture, on s’attachera naturellement à des robots « éduqués » selon nos goûts, rendant des services que l’on n’assure plus soi-même, et qui nous séduiront par leur esthétique et leurs réactions quasi humaines. Sentimentalement, on verra dans notre robot une personne qu’il serait inconvenant de maltraiter ; vision justifiant la reconnaissance d’une personnalité juridique du robot autonome, d’une part pour établir son régime juridique et d’autre part pour le protéger. Ainsi, maltraiter un jouet, un robot, devrait être défendu pour « promouvoir les valeurs que l’on juge bonnes pour notre société »5. En conclusion, le robot nécessite une personnalité juridique6 en raison de l’autonomie robotique qui en ferait un bien spécial, incomparable avec un autre bien dépourvu d’autonomie.
La seconde argumentation est donc de nature juridique. L’intelligence artificielle remettrait en cause le droit existant qui nécessiterait plus que des adaptations de circonstances. Parce qu’« intelligent », le robot autonome soutient la comparaison avec l’animal qui en tant qu’être vivant sensible bénéficie d’un statut juridique civil et pénal, bien que juridiquement classé dans la catégorie des biens mobiliers ou immobiliers par destination7. Dès lors, le robot « intelligent », bien qu’artificiel, mais fondamentalement distinct d’un bien dépourvu d’autonomie, ne saurait être moins bien traité que l’animal et devrait disposer d’un statut juridique par la reconnaissance d’une personnalité juridique spéciale à sa nature de bien « intelligent ». Cette dernière justifierait un droit des robots traduit par une éthique et une charte8 de la robotique, regroupant des dispositions touchant à tous les aspects juridiques liés à la présence du robot autonome. Le droit des robots établirait les droits et obligations des robots par rapport à l’être humain et la société et inversement. Ces normes seraient essentiellement prises en compte par la voie contractuelle et non par la voie constitutionnelle ou légale. Le droit des robots resterait une affaire privée et non étatique, afin d’éviter que le droit gêne les acteurs économiques de la robotique. Ainsi, l’admission d’une personnalité juridique propre au robot autonome, résoudrait des difficultés juridiques, par exemple en reconnaissant la responsabilité du robot (contrairement à l’animal !) couvert par un fonds de garantie, et des mécanismes d’assurance9. En conclusion, la reconnaissance d’une personnalité juridique du robot autonome qui en ferait une espèce nouvelle10, ouvre une voie à explorer11 ; certes, mais elle présente de sérieuses limites juridiques.
II – Nul besoin d’une personnalité juridique pour le robot autonome qui reste, en droit, un bien, source du droit de la robotique
Au contraire de l’approche sentimentale, l’approche juridique s’en tient à la seule réalité matérielle et scientifique du robot. Produit artificiel et non vivant de la société humaine, le robot, en droit, au regard du Code civil, s’inscrit dans la famille juridique des biens meubles ou immeubles par destination. Le robot ne peut disposer par nature de la personnalité juridique, ni même s’en voir reconnaître une.
En effet pour le Code civil12, tout ce qui n’est pas un être humain se réduit à un bien meuble ou immeuble. Ainsi, au contraire du bien, l’être humain dispose d’une personnalité juridique dans le cadre de droits et d’obligations, sous sa seule responsabilité. Le robot n’étant ni humain, ni vivant, ni même une personne morale13, est un bien. Reste à déterminer si l’intelligence artificielle source de l’autonomie robotique, influence ce statut de bien ? On remarquera que l’appartenance à la famille juridique14 des biens, ne dépend selon le Code civil, ni de leur « intelligence », ni de l’étendue de leurs capacités matérielles ou immatérielles. En conséquence l’autonomie n’est pas le critère déterminant pour reconnaître au robot une personnalité juridique15. N’étant pas un être vivant naturel, le bien robot ne soutient pas la comparaison avec le bien animal. Ce dernier, non humain, s’intègre dans la famille des biens, mais, être vivant sensible, il en constitue une catégorie particulière qui mérite une protection pénale, sans pour autant disposer d’une personnalité juridique, malgré son autonomie naturelle. Reste pourtant une comparaison : celle du robot avec le statut de l’esclave dans l’ordonnance de 168516. Comparaison juste utile pour montrer qu’un meuble peut disposer d’une certaine personnalité juridique, car être humain, au contraire du robot. Ainsi, le robot certes autonome, n’étant ni vivant, ni un animal, reste dans la catégorie des biens meubles ou immeubles par destination. Également, on ne peut prétexter de l’autonomie, pour le distinguer d’un objet dépourvu d’autonomie, car l’appartenance à la catégorie juridique des biens ne dépend pas de leurs capacités17. S’il en allait autrement, il faudrait considérer qu’un être humain moins intelligent qu’un autre, serait moins humain ; ce qui est bien sûr inacceptable. Enfin, voir sentimentalement dans son robot une personne identique à une personne humaine, est certes intellectuellement possible, mais sans portée juridique, sauf en cas de perte préjudiciable de l’objet, causée par un tiers. Tout au plus, devra-t-on considérer le robot comme un bien particulier qui sans mériter un statut juridique personnel, nécessite des adaptations juridiques utiles pour tenir compte de son autonomie, notamment en matière de responsabilité. Ce qui amène la question de la conception du droit lié aux robots.
Faut-il un droit des robots ou un droit de la robotique ? Si les deux expressions renvoient à l’idée d’un ensemble de normes juridiques déterminant le régime juridique du robot, on préféra la seconde qui évacue toute idée de personnalité juridique du robot et donc de droits qui en découleraient. En conséquence, le droit de la robotique indique que le robot obéit au régime juridique général des biens et implique des normes juridiques pour le définir, le concevoir, le produire, le vendre et l’utiliser légalement dans différents contextes juridiques, en tenant compte des conséquences de l’autonomie issue de l’intelligence artificielle. Il s’agit là, soit de normes juridiques déjà existantes, soit de normes juridiques à développer pour constituer un véritable droit matériel de la robotique. D’ailleurs, l’ouvrage d’Alain Bensoussan, Droit des robots, montre que les normes envisagées, découlent non pas d’une hypothétique personnalité juridique du robot, mais bien plus de l’évaluation des conséquences juridiques logiques du bien robot. Reste à identifier la source de ce droit de la robotique. L’un des préfaciers de l’ouvrage d’Alain Bensoussan souhaite un droit non contraignant pour éviter de brider la robotique18 et l’auteur soutient la nécessité d’une charte éthique posant les normes de la robotique, rendues obligatoires par la voie contractuelle. On répondra, que l’éthique permet à la machine de choisir la solution la moins mauvaise sans être la meilleure, lors d’un conflit de choix entre des solutions. Si l’éthique peut être une source de normes, éventuellement juridiques, elle n’est pas le droit et ne pourrait consister en une charte qui serait en fait un recueil de normes matérielles liées à la conception, la production, la vente, l’usage et la responsabilité en matière de robotique. Au contraire, ces dernières normes ne doivent résulter que du droit international, de la Constitution, des lois, des règlements et de la jurisprudence pour être effectivement obligatoires. Seule cette dernière démarche permettra aux pouvoirs publics et donc aux citoyens, d’effectuer des choix de société quant à l’usage des robots et de garantir un usage humaniste tant des nouvelles technologies que de la robotique. Une charte constitutionnelle de la robotique et des nouvelles technologies s’imposerait19, notamment pour poser les principes de la responsabilité en ce domaine.
La responsabilité enfin, serait, l’enjeu majeur du droit de la robotique. D’ailleurs, les différents cas de responsabilités sont étudiés dans divers rapports20 pour mesurer leur adéquation ou non à l’objet robotique. Ainsi, dépourvu de la personnalité juridique, le robot autonome « intelligent », ne peut être responsable des dommages qu’il causera. L’admettre créerait l’immunité de son gardien, qui doit pourtant être responsable. Dès lors qui garde le robot autonome, l’autonomie ? Le robot serait sous la garde simultanée de deux gardiens. On propose de distinguer entre le gardien immatériel21 de l’intelligence artificielle du robot et le gardien matériel de celui-ci. Par exemple, le système assurant la conduite autonome de l’automobile, transformerait le conducteur en passager de celle-ci. L’effet direct de l’intelligence artificielle qui aboutit à la décision et l’action autonome, est bien de substituer son gardien, au gardien matériel de l’objet robotique. Ainsi plus le robot est autonome, moins son gardien matériel en est responsable et plus le gardien effectif du système d’intelligence artificielle est responsable22. Il faudrait en outre, par équité, présumer23 de la responsabilité du gardien de l’intelligence artificielle ; présomption découlant de l’idée que les concepteurs « seront éthiquement responsables de ce qu’elles [les machines] apprennent »24. En conséquence, seraient responsables à proportion de leur action, toutes les personnes physiques ou morales intervenant dans la conception, et la fabrication de l’intelligence artificielle du robot25. À elles de disposer des assurances nécessaires pour se couvrir des dommages causés par le robot, sans qu’il soit nécessaire de passer par une personnalité juridique du robot qui permettrait de couvrir les dommages qu’il cause. L’avocate Murielle Cahen26 qui semble pourtant plaider pour une personnalité juridique du robot, ne retient pas une responsabilité du robot mais envisage un régime spécial de responsabilité du fait de l’autonomie. Ainsi, point besoin d’une personnalité juridique robotique pour établir le régime de responsabilité des dommages liés à l’autonomie robotique.
En conclusion, le robot est un bien, meuble ou immeuble par destination, qui engage la responsabilité de son gardien matériel de manière inversement proportionnelle à la responsabilité présumée du gardien de l’intelligence artificielle du robot. Enfin, des normes éthiques peuvent inspirer le droit de la robotique issu du seul droit découlant de la loi.
La nature juridique du robot, un enjeu de civilisation ?
Au-delà de l’aspect strictement juridique aux conséquences commerciales et économiques, l’attribution d’une personnalité juridique au robot autonome serait aussi un enjeu de civilisation. La reconnaître, autorise une évolution déjà en marche, de la société, constituée de l’imbrication d’êtres humains et de robots, où l’être humain risque de se réduire au rouage standardisé et nécessaire à une société particulièrement ordonnée. Peut-on prendre aussi le risque d’une société, où la frontière entre le vivant naturel et l’artificiel sera brouillée grâce à un droit qui aura oublié de laisser les biens artificiels, non vivants et non humains à leur place ? Ne faut-il pas plutôt penser un droit de la robotique dans la finalité d’un usage humaniste, subsidiaire, raisonnable et sûr des robots dans la société et par les êtres humains, afin de préserver l’humanité de la société. Il est donc temps que les citoyens s’emparent de ce sujet.
Notes de bas de pages
-
1.
Benssoussan A., avocat à la cour d’appel de Paris, spécialisé dans les nouvelles technologies, est l’auteur d’un ouvrage : Droit des robots, 2015, Larcier, 149 p. Il préside également l’association droit des robots.
-
2.
L’association du droit des robots, présidée et fondée par Me Bensoussan a pour vocation le développement du droit des robots en regroupant toute personne intéressée par les robots. Son site internet est particulièrement intéressant par l’amplitude des sujets abordés en liaison avec les robots.
-
3.
Le 12 décembre 2016, le Centre de recherche de l’école des officiers de la Gendarmerie nationale (CREOGN), organisa un colloque sur le thème : « Quelle place pour les robots dans notre société ? ». À cette occasion, Me Benssoussan défendit l’idée d’une personnalité juridique du robot tandis que d’autres optaient pour la conservation du robot dans la catégorie juridique des biens.
-
4.
Bensoussan A., Droit des robots, 2016, Larcier, 149 p.
-
5.
Sillinge L., « Donnons des droits aux robots », Le Monde, sciences et techniques, du 17 février 2013, cite la chercheuse du MIT Kate Darling.
-
6.
Bensoussan A., Droit des robots, préc., aborde ce sujet à la p. 41 de son livre ; projet de rapport de la députée Mady Delvaux, commission des affaires juridiques, du 3 mai 2016, PR1095387FR.doc, p. 13 du projet de rapport. Son rapport a été adopté par le Parlement européen le 16 févr. 2017.
-
7.
Bensoussan A., dans son ouvrage, Droit des robots, op. cit.
-
8.
Bensoussan A., Droit des robots, op. cit., « L’éthique robotique », p. 33 et « La charte des droits des robots », p. 51.
-
9.
Mais aussi de justifier « diverses opérations financières dans l'intérêt du robot, telles que des investissements, des dons ou le versement d'une rémunération aux robots autonomes intelligents » qui seraient versés à un fonds de compensation destiné à couvrir les dommages non couverts par une assurance ; in le projet de rapport de la députée Mady Delvaux, contenant des recommandations à la commission concernant des règles de droit civil sur la robotique, commission des affaires juridiques, du 3 mai 2016, PR1095387FR.doc, p. 12, paragraphe 31 – b.
-
10.
Colloque organisé le 12 décembre 2016, Me A. Bensoussan employa cette expression : le robot serait entre l’être vivant par son intelligence artificielle et le produit manufacturé. Bruno Maisonnier, préfacier de l’ouvrage de Me A. Bensoussan, va aussi dans ce sens. Cette proposition a cependant été contestée.
-
11.
Le directeur du CREOGN considère que la reconnaissance de la personnalité juridique du robot est une voie à explorer.
-
12.
Le livre premier du Code civil concerne les personnes sous-entendues : humaines, le livre second s’intéresse aux biens et aux différentes modifications de la propriété. Ainsi un bien est soit meuble ou immeuble (C. civ., art. 516) ; il est en principe objet de la propriété d’un particulier, sinon il est administré (C. civ., art. 537). On en déduit la responsabilité de la personne qui a la garde de la chose (C. civ., art. 1242).
-
13.
Cahen M., avocate, « Le droit des robots », sur le site internet Avocatonline ; dans la partie de son article « Vers la création d’un droit sui generis. Cependant, le robot pourrait-il être assimilé à une personne morale ? ».
-
14.
On considère que les biens forment une famille dans le sens où ils se divisent en deux grandes catégories : les biens meubles ou immeubles. Les animaux de par leur statut particulier formeraient une catégorie particulière de biens.
-
15.
En supposant une intelligence artificielle, si intelligente qu’elle disposerait d’une conscience d’elle-même, équivalente à l’intelligence et la conscience humaine, le caractère artificiel, non naturel, ne permettrait ni de reconnaître une personnalité juridique à cette « intelligence », ni au robot qui en disposerait.
-
16.
Évidemment l’auteur désapprouve l’esclavage. Mais cette réalité historique fut la source d’un droit particulier dans l’ordonnance royale de 1685, qui en établit le régime juridique. Un être humain dépossédé de sa libre disposition, était un meuble ; créé par dieu, il disposait de quelques droits cependant.
-
17.
Le robot « intelligent » est-il un bien comme le grille-pain inintelligent ? Incomparables par leurs capacités, ce sont des biens car tous deux non humains, non vivants et produits manufacturés.
-
18.
Bruno Maisonnier, dans sa préface à l’ouvrage de Me Alain Bensoussan, Droit des robots, préc.
-
19.
Rapport de l’Office parlementaire d’évaluation des choix scientifiques et technologiques, sur « Les robots et la loi », compte rendu de l’audition publique du 10 décembre 2015 et la présentation des conclusions du 3 mars 2016, par J.-Y. Le Déaut député et B. Sido sénateur, Assemblée nationale n° 3551 et Sénat.
-
20.
Projet de rapport de la députée Mady Delvaux, préc. ; rapp. « Les robots et la loi », préc. ; SYMOP, Droit de la robotique, Livre blanc, 2016.
-
21.
Le gardien du système d’intelligence artificielle du robot, comporterait les différents intervenants dans celle-ci.
-
22.
L’idée d’une proportionnalité de la responsabilité entre les différents intervenants dans l’intelligence artificielle du robot figure aussi dans le rapport de la députée européenne Mady Delvaux ; dans ce sens le rapport de l’OPECST : « Les robots et la loi sans nécessiter, une personnalité juridique du robot ».
-
23.
On pense que cette responsabilité doit être présumée ; le rétablissement de l’équilibre entre les parties implique de prévoir une telle présomption, à charge pour le gardien de l’intelligence artificielle de démontrer son absence de faute ou de démontrer que la faute résulte de l’action de tel ou tel ou d’un ensemble d’intervenants dans la conception de l’intelligence artificielle. Dès lors la responsabilité de ces intervenants serait proportionnelle à leur intervention dans l’établissement de cette intelligence artificielle.
-
24.
Devillers L., Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur d’Orsay ; propos rapporté dans « Droit et éthique des robots », in Science et avenir, févr. 2017, n° 840, p. 90.
-
25.
Sur ce point, la députée européenne Mady Delvaux distingue entre la responsabilité de l’éducateur du robot, de ce qu’il a appris par lui-même et des concepteurs de son intelligence artificielle qui lui permet cette éducation et cet apprentissage. Si l’on trouve logique cette proposition, on la réfutera, elle tend à dégager le concepteur de sa responsabilité. En effet, si le robot est « éducable » et peut apprendre par lui-même, c’est en raison de la conception de son intelligence artificielle. Dès lors, il faut bien présumer de la responsabilité du gardien de l’intelligence artificielle, responsable de ce que le robot apprend et qui pourra « prouver que le gardien matériel du robot n’a pas respecté les prescriptions nécessaires à « l’éducation » de son robot ou les a modifiées pour un usage non prévu pour atténuer sa responsabilité.
-
26.
Cahen M., avocate, article : « Le droit des robots », sur le site internet Avocatonline ; sous le titre « Vers la création d’un régime spécial de responsabilité ».