I – Orientations pour une autorité administrative indépendante de la robotique

Qu’ils soient militaires, sécuritaires, ou civils, le bon usage des robots sera garanti par la présence d’une autorité administrative indépendante22. C’est donc l’indépendance de cette institution et de sa présidence, ses missions et ses compétences que l’on envisagera23.

L’indépendance d’une telle autorité est indispensable pour garantir l’autorité de ses décisions, sa neutralité et son impartialité. L’indépendance à l’égard des pouvoirs politiques, économiques et administratifs proviendra de manière classique du statut de cette autorité et de celui de ses membres. Ainsi le (la) président(e) de cette autorité administrative indépendante, issu du pouvoir judiciaire administratif ou judiciaire, serait nommé(e) par un comité de représentants du conseil supérieur de la magistrature et du Conseil d’État. Elle serait composée de membres issus du parlement, de la société civile, de citoyens tirés au sort sur les listes électorales et de personnalités particulièrement compétentes dans les domaines mécanique, informatique et électronique, ainsi que du droit.

Cette autorité exercerait deux missions principales et simultanées. Il s’agirait de la coordination avec les autres autorités administratives indépendantes, en raison des équipements et missions du robot24. Elle réglerait tous les aspects spécifiques à la robotique, notamment en matière de libertés publiques et de déontologie de l’usage sécuritaire, militaire, technique et ou simplement domestique du robot. Elle interviendrait ainsi :

• dans le contrôle des certifications attribuées aux entreprises chargées d’expertiser les logiciels ;

• dans l’assurance d’un droit d’accès aux citoyens, dans le contrôle des entreprises fabricant les robots et les utilisateurs institutionnels civils ou militaires pour garantir le respect des procédures dans ce domaine ;

• dans l’immatriculation des robots (notamment des drones) ;

• dans la détermination des normes robotiques, en établissant notamment établirait qui le pilote, la formation de cette personne, ses compétences techniques et juridiques, sa place dans la hiérarchie et son statut ou non en tant qu’officier de police judiciaire (pour les robots sécuritaires) ;

• dans les certifications, du classement des robots dans diverses catégories ;

• dans la vérification de l’usage conforme au droit et à ses caractéristiques techniques et disposerait d’une compétence technique d’expertise dès lors que l’usage du robot causerait de par son fonctionnement un dommage soit à un tiers, soit à la personne civile qui a fait l’objet d’un traitement robotisé. Elle serait à même de par sa nature de service public d’offrir une expertise neutre, objective à toutes les parties d’un litige où un robot serait en cause.

Elle saisirait enfin la justice de toute infraction et disposerait d’un pouvoir réglementaire mais aussi de sanctions administratives. Elle délivrerait des avis sur tout sujet en lien avec la robotique, soit sur consultation volontaire ou obligatoire du gouvernement, de parlementaires ou d’autres élus, de magistrats, voire d’entreprises privées en lien avec la conception des robots et leur distribution commerciale. Ces avis seraient rendus soit intégralement publics, soit partiellement dès lors qu’un intérêt national serait en jeu. Cette autorité assurerait aussi une mission d’expertise. Elle pourrait être saisie par tout citoyen, notamment quant à l’usage du robot et les questions de responsabilité.

II – Orientations quant à l’usage et la responsabilité

Il s’agit d’abord de conditionner l’usage des robots. On poserait comme principes :

• que l’usage du robot dans la société et au niveau individuel doit être subsidiaire et proportionnel au regard du but que l’on souhaite atteindre. Donc à quel stade procédural et pour quelle tâche matérielle faire intervenir le robot ? Ainsi le robot devrait être toujours identifiable comme robot et non confondu avec un animal existant ou un être humain. On affirmerait que l’on peut toujours préférer recourir à un être humain ou des services administratifs plutôt qu’à un robot ou un site internet ;

• qu’il s’ensuit que le robot, en tant que machine doit toujours pouvoir, à tout moment et en tout lieu, être désactivé, par un être humain, par quelque moyen que ce soit, dès lors que ce robot dysfonctionne ;

• du droit de disposer d’une conformité technique pour certifier la non-dangerosité du robot et donc « établir le droit à connaître : le fabricant, le propriétaire, les caractéristiques techniques, et les logiciels pour en vérifier le fonctionnement ».

Viendraient ensuite des principes liés à la détermination de la responsabilité robotique avec :

• la nécessité de distinguer entre l’utilisateur gardien matériel du robot et le gardien immatériel qui maîtrise l’autonomie du robot, afin d’établir le partage de responsabilité entre les deux gardiens, en indiquant que le gardien immatériel est constitué par l’ensemble des personnes physiques ou morales qui, par l’intermédiaire des moyens matériels et immatériels, maîtrise l’autonomie du robot lors de son fonctionnement, et qui se substitue de fait à l’utilisateur ;

• le principe de la présomption de responsabilité du gardien de l’autonomie immatérielle du robot avec pour conséquence, le principe d’une inversion proportionnelle de responsabilité ; plus le robot est autonome, moins son gardien matériel en est responsable et plus son gardien immatériel l’est ;

• l’inscription du droit à apporter la preuve contraire par tous moyens à celle établie par le robot ;

• enfin, l’établissement du droit d’accéder aux informations personnelles enregistrées par le robot pour une quelconque raison, pour garantir les droits de la défense, lors d’un contentieux, ce qui nécessite de poser le principe de la conservation des données enregistrées par le robot25, dans des mémoires informatiques et papier sous l’autorité d’une autorité administrative indépendante, durant un temps au moins égal aux prescriptions des procédures pénales26. Ce droit est nécessaire pour établir le partage de responsabilité. Des principes, matériels notamment, pour garantir les libertés publiques interviendraient.

III – Orientations pour des principes matériels et les libertés

On s’intéressera ici aux normes les plus fondamentales. Là aussi on distinguera, entre celles directement liées au fonctionnement du robot, et celles visant à éviter qu’il ne commette un acte qui engagerait la responsabilité de son fabricant, de son propriétaire ou de son utilisateur. Il faudrait implanter dans le robot, des normes fondamentales et procédurales.

Viennent ensuite les procédures. Nécessaires pour garantir le respect des libertés publiques, elles interviendraient dans le fonctionnement interne du robot en tant que mécanisme de sécurité pour stopper un dysfonctionnement. Le robot n’est-il pas au final un outil périphérique, enregistrant des données et donc soumis à la loi Informatique et libertés ?

Enfin, envisager des normes liées à la conception et l’usage des robots est nécessaire, mais doit aussi participer à une vision plus large de l’usage des technologies, plus particulièrement en ce qui concerne les relations entre l’État et le citoyen. Dès lors, d’autres principes pourraient être reconnus :

• reconnaître constitutionnellement, si ce n’est par la jurisprudence, un droit général, individuel et collectif à l’anonymat au domicile et dans l’espace public, pour garantir l’exercice des libertés publiques. Il faut établir ainsi une « opacité du citoyen » pour résister au traçage et à la surveillance généralisée, pour reprendre ici le propos d’Alex Türk qui plaide aussi pour un droit à l’anonymat de la personne27 ;

• affirmer constitutionnellement le droit à connaître les informations enregistrées sur soi ;

• disposer du droit constitutionnel à modifier, supprimer28 ses données personnelles, si elles sont erronées, ou préjudiciables ;

• le droit pour le citoyen à recourir aux services d’un être humain, plutôt qu’une machine lorsque ses droits sont en cause ;

• affirmer que seuls des êtres humains exercent la démocratie et limiter en ce domaine le recours aux machines à des opérations purement matérielles et non pour des décisions engageant la situation juridique des personnes ;

• apprécier le principe de proportionnalité tant au niveau constitutionnel que législatif ou réglementaire. Il s’agit de considérer la proportionnalité d’un système juridique de surveillance et de contrôle de la population par rapport aux libertés publiques et non pas juste se limiter à apprécier la proportionnalité d’une seule loi29 par rapport à la constitution, et qui contribue à ce système, et ce, pour dire que le système mis en place, est inconstitutionnel ou contraire à un traité, ou que la norme mise en cause, par sa contribution fait basculer le système juridique, dans lequel elle s’insère, dans le champ de la disproportion attentatoire à la démocratie et l’État de droit, notamment lors du recours à des robots militaires et sécuritaires.

IV – Orientations quant aux robots militaires et sécuritaires

On en vient au régime juridique des robots militaires30 et sécuritaire31. Ainsi :

• pour un robot militaire, s’imposerait le respect des normes du droit international relatives au droit des conflits armés, au droit humanitaire, aux droits de l’Homme et pourquoi pas à des normes morales ou éthiques, telles que le respect des cérémonies religieuses de l’ennemi. Sur ce point, le manuel de droit des conflits armés du ministère de la Défense nationale insiste sur l’existence de règles communes aux différentes conventions de ce droit. Ainsi, les principes d’humanité32, de discrimination33, et de proportionnalité34 devraient impérativement être respectés par le robot ;

• l’usage à bon escient du robot impliquerait qu’une action contraire au droit, génère son blocage. Ces règles interviendraient autant pour empêcher une programmation illégale que pour, interdire un tir sur une personne civile, un prisonnier, ou pour éviter un dommage disproportionné ;

• le robot sécuritaire ne devrait, par principe, être doté d’aucune arme, même soi-disant non mortelle. Seuls, un agent de police nationale ou un gendarme, devraient en avoir l’autorisation selon les Codes pénal et de la sécurité intérieure ou de la défense ;

• l’usage du robot sécuritaire devrait toujours se faire sous la responsabilité d’une personne humaine, compétente, et dans le seul cadre des procédures légales d’enquêtes. La chaîne de commandement devrait être identifiable, accessible, vérifiable et contrôlable en permanence par toute personne ;

• une personne référente serait désignée, au sein des services qui usent des robots, pour tout ce qui concerne l’usage des robots, en liaison avec une autorité administrative indépendante de la robotique ;

• prévoir une déontologie de l’usage du robot sécuritaire conforme aux libertés publiques par les forces de l’ordre. Cette déontologie faisant l’objet d’un texte spécial, et mis en référence dans le Code de déontologie des polices nationale et municipale et de la gendarmerie ;

• introduire dans les Codes de la défense nationale, de la sécurité intérieure, et tout autre code si nécessaire, les cas et les conditions où il est possible d’utiliser un robot sécuritaire.

Au final, la robotique touche autant l’individu que la société et n’est donc pas dissociable d’une conception de la vie en société qu’il revient aux citoyens de choisir. La robotique n’est pas neutre et doit être replacée dans le cadre d’un usage humaniste des nouvelles technologies, conformément à la tradition humaniste européenne. Le droit de la robotique est aussi un enjeu de sources.

Conclusion : L’enjeu des sources du droit de la robotique

Intégrer une telle charte dans le préambule de la Constitution de la Ve République garantira la préservation de l’origine naturelle de l’être humain et de l’État de droit. Cette garantie découlera aussi de la permanence et de l’intangibilité des textes du préambule35, distincte de la « Constitution fonctionnelle »36 changeant elle au gré des circonstances politiques. Il faut encore que cette garantie provienne des normes internationales dans le domaine de la robotique37.

Le cœur de ce sujet réside dans les sources du droit de la robotique. Au-delà de la distinction entre des sources internationales, européennes et nationales, et bien sûr de la hiérarchie des normes entre le droit international et le droit national, il convient aussi de distinguer entre la nature de ces normes ; toute norme n’est pas juridique. Ainsi sous le couvert de « robot-éthique », on rencontre aussi bien des normes morales que relevant de la loi. Pour les roboticiens, l’éthique consiste à trouver la décision la moins préjudiciable entre deux solutions qui le sont38. Il y a là une décision prise à partir de considérations éthiques au moment de la conception de l’intelligence artificielle du robot engageant la responsabilité de ses concepteurs. Ces options morales et éthiques découleront soit d’arguments philosophiques, religieux, économiques, sociaux soit de la loi qui les formulera de manière juridique. Cependant, ces considérations sont à distinguer des normes juridiques qui établiront le régime de l’immatriculation, de la certification du robot, des conditions de son utilisation ou encore d’une autorité administrative indépendante de la robotique.

Pour conclure, on s’est intéressé ici à ce que pourrait être une charte constitutionnelle de la robotique. Mais une telle charte devrait aussi concerner les nouvelles technologies qui touchent à la conception de l’avenir de la société humaine et de la nature.