Droit et algorithmes : réflexion sur les nouveaux processus décisionnels

Publié le 04/09/2020 - mis à jour le 07/09/2020 à 10H58

Il faut bien nous habituer à cette idée qu’un jour viendra où, dans le monde du droit, les juges céderont, au moins pour partie, la place aux algorithmes… C’est du moins ce que laissent entendre les discours favorables au recours à la justice digitale. Le numérique opère un bouleversement profond des pratiques sociales et la justice s’en trouve également touchée. Il ne faut pas oublier que le recours aux algorithmes doit être complémentaire dans le travail du juge, et non pas se substituer intégralement à lui…

L’intelligence artificielle, sur laquelle reposerait cette « justice digitale », peut être définie comme « la science qui consiste à faire faire aux machines ce que l’homme ferait moyennant une certaine intelligence »1. Les algorithmes, qui y sont très liés, sont un « ensemble de règles qui définit précisément une séquence d’opérations de sorte que chaque règle soit effective et définie et que la séquence se termine dans un temps fini »2. Les algorithmes d’apprentissage, dits machine learning ou apprentissage automatique, regroupent des méthodes qui permettent de trouver des relations pertinentes et compréhensibles par l’homme au sein d’un jeu de données qui décrit un ensemble d’observations. Il s’agit, dans l’analyse sérielle, des équations, des règles, des regroupements (clusters), des structures de données (graphes)3.

Cette méthode permet la création de processus décisionnels ; le processus de décision est construit automatiquement, à partir des données et non plus à partir des règles créées explicitement par l’homme4.

Les algorithmes prédictifs sont aujourd’hui les algorithmes d’apprentissage les plus pertinents. Ils permettent de générer un modèle prédictif basé sur un exemple validé par l’homme. Autrement dit, les données à disposition sont un ensemble composé de variables descriptives ou caractéristiques et de variables dites discriminantes. L’étape de l’apprentissage consiste en un processus itératif dont l’objectif est de réduire les erreurs. La fonction de prédiction aspire, grâce au contrôle de la réponse donnée par la machine à une question qui lui est posée, à déduire la valeur de la variable discriminante pour un exemple dont la valeur est inconnue5. Ces outils ont été développés, de manière exponentielle, par des entreprises privées. Ces instruments de justice prédictive répondent au nom de legaltechs6. De manière concrète, l’algorithme est capable de restituer les probabilités de résolution d’un litige, d’estimer le montant des indemnités, d’identifier les moyens de droit nécessaires, d’isoler et d’indiquer les faits qui ont pu influer sur les décisions rendues antérieurement par les juridictions7.

Mais l’entrée des algorithmes dans le monde du droit est révélatrice d’une révolution graphique. Ainsi que l’a souligné Antoine Garapon, le numérique, en tant que nouvelle façon de décrire le monde, permet d’intégrer toutes les formes de langage (parole, son, écrit…) sous un format mathématique. Dans cette nouvelle vision du monde, les individus finissent par assimiler ce nouveau langage à la réalité8.

Si cette nouveauté est porteuse d’espoir, elle contient des risques qu’il est nécessaire de mettre en lumière : la déshumanisation (I), le nouveau rapport à la vérité judiciaire (II) et la prophétie autoréalisatrice (III).

I – Une déshumanisation programmée de la justice

Les nouvelles technologies ont donné naissance à des plateformes offrant des services de résolution amiable des litiges. L’Online Dispute Resolution (ODR), telle qu’on l’appelle aux États-Unis et au Canada, a pour principale conséquence de déléguer la résolution amiable d’un conflit à des algorithmes9.

En France, l’article 1530 du Code de procédure civile définit la médiation conventionnelle comme relevant de « tout processus structuré, par lequel deux ou plusieurs parties tentent de parvenir à un accord, en dehors de toute procédure judiciaire en vue de la résolution amiable de leurs différends, avec l’aide d’un tiers choisi par elles qui accomplit sa mission avec impartialité, compétence et diligence ». Le code reste muet sur les modalités concrètes de sa mise en œuvre, si bien que les nouvelles technologies peuvent en envahir le champ10.

Il s’agit, plus largement, d’un nouveau moyen matériel de rédiger une décision de justice, un progrès technologique qui peut mieux accompagner le juge dans son travail. Ainsi que l’a souligné Emmanuel Jeauland : « La décision judiciaire issue de l’intelligence artificielle va sans doute longtemps rester un fantasme, mais l’assistance à la décision par la mobilisation du droit applicable et le calcul de la probabilité des résultats vont sans doute se perfectionner. Bien maîtrisée et pensée, cette évolution ne devrait pas conduire, en elle-même, à une justice inique, pas plus que la forme écrite n’a conduit en son temps à l’iniquité »11.

Mais un recours à outrance à l’ODR pourrait comporter des risques, que nous voudrions ici souligner. À côté des règles de droit, les jugements sont un élément nécessaire du monde juridique. Rendre la justice est une fonction essentielle de l’État et c’est pour cette raison qu’il existe un service public judiciaire, comportant des organes et un personnel destinés à le faire fonctionner.

Il est vrai qu’ont toujours existé, en marge de l’État, des voies alternatives visant à résoudre les conflits au sein d’une communauté. Si le désengagement de l’État de la justice est un fait réel et attesté aujourd’hui, et probablement aggravé à travers les plateformes privées de règlement amiable des litiges12, il ne constitue pas le principal risque de l’ODR. Le principal problème relèverait de la déshumanisation de la justice. Les plateformes d’ODR qui utilisent des algorithmes mettent à distance l’intervention humaine, voire la suppriment. Il s’agit là d’un refoulement de l’humain13. Ainsi qu’Antoine Garapon l’a récemment souligné : « Le tiers algébrique se substitue au tiers symbolique, le tiers binaire au tiers complexe, le tiers opérant au tiers signifiant, le tiers transparent au tiers interprétant, le tiers inclus au tiers extérieur. Cette élision va avec une évacuation du politique et plus particulièrement de l’État »14.

Cette révolution n’engendrerait-elle pas une soumission à la gouvernance des nombres, telle qu’Alain Supiot l’a récemment pensée15. Or, la justice doit conserver son objectif de rendre à chacun son dû, et non pas consister en l’ajustement mécanique d’hommes auxquels on voudrait épargner la peine d’avoir à se rencontrer16. Le droit, dans son essence, cherche, avec humanité, à concilier les grands équilibres, en ce qu’il est protecteur du faible contre le fort. Il n’est pas certain que l’algorithme puisse se fonder, autant que l’homme peut le faire, sur ces valeurs, pourtant essentielles dans notre système juridique et judiciaire. La normativité technique ne doit pas substituer à l’humain la normativité de l’algorithme17.

Le numérique opère un bouleversement profond des pratiques sociales et la justice s’en trouve également affectée. Il ne faut pas oublier que le recours aux algorithmes doit être complémentaire dans le travail du juge, et non pas se substituer intégralement à lui… sous peine qu’émerge un nouveau rapport à la vérité judiciaire.

II – Les algorithmes, vecteur d’un nouveau rapport à la vérité judiciaire ?

L’utilisation de ces nouvelles techniques dans le domaine juridique et judiciaire a conduit à la nécessité de leur donner un nom, celui de « justice prédictive »18 ou de « justice quantitative »19. Le jugement prédictif devient ainsi le fruit d’un calcul effectué à partir des décisions déjà rendues.

Il est vrai, ainsi que l’avait souligné Loïc Cadiet, que la justice prédictive « ouvre des perspectives d’étude de l’activité des juridictions jusqu’alors inexistantes »20. L’analyse statistique de la jurisprudence, faite dans sa totalité, permettra sans nul doute de croiser ses contenus et de mettre en exergue les principales tendances qui la traversent. Cette analyse des corrélations statistiques permettra au juge de mieux connaître les facteurs matériels qui guident ses décisions. Les analyses statistiques peuvent, dans certains cas, permettre de contrôler la bonne application des règles de droit. Par exemple, s’agissant des contrats de travail rompus abusivement, l’article L. 1235-3 du Code du travail prévoit que l’indemnisation du salarié licencié soit indexée sur son ancienneté. La chose se vérifie aisément dans la jurisprudence actuelle21. Toutefois, le principe est le même en matière de prestation compensatoire suivant le divorce, qui, selon l’article 271 du Code civil, doit être proportionnelle à la durée du mariage, mais l’analyse de la jurisprudence montre une pratique inverse22. Il est évident que l’analyse statistique permettra d’améliorer la connaissance de la manière de travailler des juges et de tendre, peut-être, à une certaine harmonisation dans l’application des règles. Le juge, qui travaille souvent seul, pourra donc avoir une idée de ce que ses pairs font en pareil cas23. Cela viserait naturellement à mettre fin à l’aléa judiciaire et à alléger le travail du juge24. La justice prédictive, répondant à un besoin de prévisibilité dans l’application de la norme, permet de rendre prévisibles les rapports sociaux25 et, par là, d’accroître la sécurité juridique26.

Si l’on s’en tient à ses promesses d’une justice augmentée, venant aider le juge dans sa tâche, la justice digitale présente bien des points positifs. Toutefois, il ne faut pas oublier qu’elle est assortie d’un certain nombre d’écueils, qu’il faut ici relever. Le numérique, par la nouvelle forme de vérité qu’il amène, concurrencerait la forme rituelle du procès, traditionnellement admise dans notre procédure depuis plusieurs siècles. Il suscite parfois, proches du scientisme, les espoirs les plus fous, les plus inattendus et surtout les plus démesurés ; le numérique prétendrait mieux juger que les hommes, le faire plus rapidement et de manière moins coûteuse. La presse en témoigne aisément :

« Alors que les missions régaliennes de l’État que sont l’armée et la sécurité se métamorphosent au contact des nouvelles technologies (vidéosurveillance, robots soldats, etc.), la justice n’évolue guère. Kafkaïenne par la complexité de son organisation, la justice tient encore de Courteline. La révolution numérique va faire imploser cet univers du XIXe siècle. Elle fournira d’abord les moyens d’une amélioration de son fonctionnement. En quoi consiste le travail du juge ? À synthétiser des milliers de pages de procédure, à lire des rapports d’experts, à consulter des textes de loi et la jurisprudence liée, pour enfin rendre une décision. Un travail de titan qu’aucun cerveau normal ne peut effectuer parfaitement, a fortiori s’il est placé dans un contexte de surcharge chronique. Les décisions judiciaires sont ainsi rendues dans un contexte de rationalité fortement limitée. Ce travail deviendra graduellement à la portée d’une intelligence artificielle (IA), infatigable et capable d’éviter tous les biais cognitifs induits par notre cerveau. Depuis juin dernier, un cabinet d’avocats américain utilise officiellement un logiciel capable d’analyser des monceaux de jurisprudence, d’en saisir le sens, leur degré d’application à un dossier précis et d’apporter des réponses argumentées à des questions posées directement. Une première qui va se généraliser, tant les avantages sont évidents. L’idée d’une automatisation de la justice peut sembler choquante. Dans les affaires d’assises, où l’intime conviction de jurés face à une culpabilité parfois incertaine est requise, elle semble difficile. Mais l’immense majorité des dossiers encombrant nos tribunaux concerne des cas bien différents : contentieux commercial, divorce, problème de voisinage… Si une machine est capable demain de “digérer” en quelques secondes l’ensemble des cas similaires et des jugements passés, en adaptant extrêmement finement sa décision au cas précis, ne pourrait-on économiser de lourdes procédures, supprimer des années de délai ? Les défenseurs du rôle traditionnel du juge allégueront de la dose d’humanité, des infinies nuances qu’il doit mettre dans tout jugement. En réalité, une intelligence artificielle rendrait une meilleure justice qu’une personne influencée par sa propre idéologie et le contexte du jugement. Aux États-Unis, des études ont montré que la médiatisation d’un cas rendait la décision plus sévère. En science, le critère roi est celui de la reproductibilité d’une expérience ; le critère de la justice ne devrait-il pas précisément être celui de la reproductibilité d’un jugement ? Ce dernier ne devrait dépendre ni de la personne qui juge ni des circonstances »27.

Cette approche d’un jugement automatisé, déshumanisé, voire décontextualisé, fait oublier qu’un jugement est nécessairement le fruit d’une réflexion, le fruit du temps. C’est sur cela que repose l’efficacité symbolique du procès28. Le juge de chair et d’os ne doit pas s’effacer devant le juge virtuel.

Il ne faut pas oublier que les corrélations statistiques ne font pas toujours sens. La corrélation ne doit pas se confondre avec la causalité. Si une corrélation est un lien statistique qui ne permet pas de savoir quelle variable agit sur l’autre, la causalité est un lien qui affirme qu’une variable agit sur une autre. Autrement dit, si deux événements sont rapprochés dans le temps ou dans l’espace, on peut dire qu’ils sont corrélés. Toutefois, cela ne signifie pas nécessairement que l’un a causé l’autre…29 Par là, la justice prédictive pourrait présenter comme vérité ce qui n’est qu’un artifice.

Il ne faut pas oublier que le juge détient une conscience jugeante… L’article 455 du Code de procédure civile oblige les juges à motiver leur décision. Cela permet de porter à la connaissance des parties le raisonnement du juge et, par là, de combattre l’arbitraire. Le juge, par le prisme du raisonnement par syllogisme, n’est que la bouche de la loi : il dit le droit. Mais, ainsi qu’Antoine Garapon l’a souligné, la justice prédictive fait s’effondrer le mythe d’une loi impartiale et aveugle, de juges « bouches de la loi »30. La justice prédictive met la jurisprudence au cœur du droit ; la règle a moins de sens que son application par le juge. Le syllogisme juridique n’a plus pour prémisse majeure la loi, mais la jurisprudence. Or, il ne faut pas oublier que l’ordre juridique est la forme sous-jacente qui donne aux règles de droit leur véritable sens en arbitrant, en cas de contradiction, entre deux normes à l’intérieur d’un même système juridique, et qui confère une énergie sociale et une dimension symbolique aux institutions31. La justice prédictive permet très largement de modifier notre façon traditionnelle de percevoir la jurisprudence.

Un troisième risque mérite d’être relevé : la prophétie autoréalisatrice.

III – Les conséquences normatives de la prophétie autoréalisatrice de la justice prédictive

Le langage juridique a une valeur performative au sens que lui donne John Austin32. Lorsqu’un juge énonce dans un jugement qu’il condamne quelqu’un à une peine, son énoncé se traduit généralement en une peine effective33. Il s’agit là de la valeur quasi magique des mots juridiques34.

La justice prédictive pourrait devenir performative à partir du moment où les algorithmes s’appliqueraient directement au litige35. Si, pour l’heure, ces outils ne sont qu’une aide accompagnant le juge dans son travail, il ne faut pas négliger le risque de transformation des normativités. La justice prédictive pourrait, en effet, générer une sorte de normativité seconde, où, en quelque sorte, la norme d’application se substituerait à la règle de droit elle-même36. Le juge serait alors presque obligé de se soumettre à la prédiction de l’algorithme.

C’est en cela que la justice prédictive pourrait devenir une « prophétie autoréalisatrice »37 (self-fulfilling prophecy). Cette dernière induit des comportements de nature à la valider38. En suivant cette logique, la justice prédictive présentera telle chose comme ce qui apparaît être une situation normale et obligerait le juge à s’y conformer.

La matérialisation de l’effet performatif est exponentielle dans la mesure où la réaction d’obéissance qu’elle entraîne renforce alors l’algorithme dans la réalité de son énoncé39. Dans sa fonction d’aide à la décision à la disposition du magistrat, la justice digitale aurait un effet performatif indirect.

L’intelligence artificielle prédit la décision du juge à partir de données accumulées dans une base contenant des décisions antérieures. La démarche invite donc à reproduire le passé, en ne permettant pas d’évolution. L’avenir serait donc condamné au passé.

Notes de bas de pages

  • 1.
    CNIL, Comment permettre à l’Homme de garder la main, rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle, 15 déc. 2017, p. 16.
  • 2.
    Stone H., Introduction to Computer Organization and Data Structures, 1972, McGraw-Hill Book Company.
  • 3.
    Hand D., Mannila H. et Smyth P., Principles of Data Mining, 2001, MIT Press.
  • 4.
    Langley P. et Simon A., « Applications of Machine Learning and Rule Induction », Communications of the ACM, nov. 1995, vol. 38/11, p. 54.
  • 5.
    Charniak E. et McDermott D., Introduction to Artificial Intelligence, 1984, Addison-Wesley, p. 2.
  • 6.
    Amaro R., « L’“ubérisation” des professions du droit face à l’essor de la legaltech », Dalloz IP/IT 2017, n° 3, p. 163.
  • 7.
    Coustet T., « L’utilisation de l’outil Predictice déçoit la cour d’appel de Rennes », Dalloz actualité, 16 oct. 2017 ; Sirinelli P., « Madame Irma, magistrat », Dalloz IP/IT 2017, n° 11, p. 557 ; Benesty M., « L’open data et l’open source, des soutiens nécessaires à une justice prédictive fiable ? », JOAL 2017, vol. 5.
  • 8.
    Garapon A. et Lassègue J., La justice digitale, 2018, Paris, PUF.
  • 9.
    Piers M. et Aschauer C. (éd.), Arbitration in the Digital Age. The Brave New World of Arbitration, 2018, Cambridge University Press ; Chassagnard-Pinet S., « Le e-règlement amiable des différends », Dalloz IP/IT 2017, p. 506.
  • 10.
    Beynel J.-F. et Casas D., Chantiers de la justice. Transformation numérique, 2018, http://www.justice.gouv.fr/publication/chantiers_justice/Chantiers_justice_Livret_01.pdf ; Katsh E. et Rabinovich-Einy O., Digital Justice. Technology and the Internet of Disputes, 2017, Oxford University Press, p. 38 ; Siiriainen F., « Quelques réflexions sur les MARC (modes alternatifs de résolution des conflits) “en ligne” dans le commerce électronique », in Racine J.-B. (dir.), Pluralisme des modes alternatifs de résolution des conflits, pluralisme du droit, 2002, L’Hermès, p. 131 ; Benyekhlef K. et Gélinas F., Le règlement en ligne des conflits. Enjeux de la cyberjustice, 2003, Romillat ; Benyekhlef K. et Gélinas F., « Online Dispute Resolution », Lex Electronica 2005, vol. 10-2 ; Abdel Wahab M. S., Katsh E. et Rainey D. (éd.), Online Dispute Resolution: Theory and Practice. A Treatise on Technology and Dispute Resolution, 2011, Eleven International Publishing.
  • 11.
    Jeuland E., « Justice numérique, justice inique ? », Cah. just. 2019, p. 193.
  • 12.
    Koulu R., « Disintegration of the State Monopoly on Dispute Resolution. How Should We Perceive State Sovereignty in the ODR Era? », International Journal of ODR 2014, p. 125 ; Ferrand F. et Gautier P.-Y., « Honneur et devoir de juger », D. 2018, p. 951.
  • 13.
    Racine J.-B., « La résolution amiable des différends en ligne ou la figure de l’algorithme médiateur », D. 2018, p. 1700.
  • 14.
    Garapon A. et Lassègue J., La justice digitale, 2018, Paris, PUF, p. 137 ; v. aussi Fricero N. et Vert F., « La médiation face aux enjeux du numérique et du service public de la justice : quelles perspectives ? », Dalloz actualité, 24 janv. 2018.
  • 15.
    Supiot A., La gouvernance par les nombres. Cours au Collège de France (2012-2014), 2015, Fayard, p. 103.
  • 16.
    Garapon A. et Lassègue J., La justice digitale, 2018, Paris, PUF, p. 350.
  • 17.
    Racine J.-B., « La résolution amiable des différends en ligne ou la figure de l’algorithme médiateur », D. 2018, p. 1700.
  • 18.
    Dondero B., « Justice prédictive : la fin de l’aléa judiciaire ? », D. 2017, p. 532, n° 10.
  • 19.
    Dupré J. et Lévy Véhel J., « L’intelligence artificielle au service de la valorisation du patrimoine jurisprudentiel », Dalloz IP/IT 2017, n° 10, p. 500.
  • 20.
    Cadiet L. (dir.), L’open data des décisions de justice, rapport au ministre de la Justice, janv. 2017, p. 23.
  • 21.
    Garapon A. et Lassègue J., La justice digitale, 2018, Paris, PUF, p. 228-229.
  • 22.
    Dupré J. et Lévy Véhel J., « L’intelligence artificielle au service de la valorisation du patrimoine jurisprudentiel », Dalloz IP/IT 2017, n° 10, p. 502.
  • 23.
    Prévost J.-B., « Justice prédictive et dommage corporel : perspectives critiques », Gaz. Pal. 30 janv. 2018, n° 312b3, p. 43.
  • 24.
    Dondero B., « Justice prédictive : la fin de l’aléa judiciaire ? », D. 2017, p. 535 ; Garapon A., « Les enjeux de la justice prédictive », JCP G 2017, 01-02.
  • 25.
    Garapon A., « Les enjeux de la justice prédictive », JCP G 2017, 01-02.
  • 26.
    Muzny P., « Quelques considérations en faveur d’une meilleure prévisibilité de la loi », D. 2006, p. 2214.
  • 27.
    Pour ex., Alexandre L. et Barbeau O., « Confions la justice à l’intelligence artificielle ! », Les Échos, 21 sept. 2016.
  • 28.
    Garapon A., « Le jugement judiciaire aux prises avec de nouvelles “formes de vérité” : marché, calcul, numérique », Archives de philosophie 2019, p. 286.
  • 29.
    Vigneau V., « Le passé ne manque pas d’avenir », D. 2018, p. 1100.
  • 30.
    Garapon A., « Les enjeux de la justice prédictive », JCP G 2017, 01-02.
  • 31.
    Garapon A., « Le devenir systémique du droit », JCP G 2018, 21.
  • 32.
    Austin J., How to do Things with Words, 1962, Clarendon Press.
  • 33.
    Garapon A., Bien juger. Essai sur le rituel judiciaire, 1997, Paris, Odile Jacob, p. 209.
  • 34.
    Garapon A., Bien juger. Essai sur le rituel judiciaire, 1997, Paris, Odile Jacob, p. 209.
  • 35.
    Garapon A., « Les enjeux de la justice prédictive », JCP G 2017, 01-02.
  • 36.
    Benoit D., « De l’émergence de “nouvelles réalités” : les “prédictions créatrices” », Revue internationale de psychosociologie 2007/29, vol. 13, p. 49.
  • 37.
    Croze H., « La factualisation du droit », JCP G 2017, 5.
  • 38.
    Benoit D., « De l’émergence de “nouvelles réalités” : les “prédictions créatrices” », Revue internationale de psychosociologie 2007/29, vol. 13, p. 49.
  • 39.
    Ferrié S., « Intelligence artificielle : les algorithmes à l’épreuve du droit au procès équitable », JCP G 2018, 11.

À lire également

Référence : LPA 04 Sep. 2020, n° 155y3, p.8

Plan