Quand l’avenir se condamne au passé : la justice prédictive face au problème de la prophétie auto-réalisatrice
Il faut bien nous habituer à cette idée qu’un jour viendra où, dans le monde du droit, les juges céderont, au moins pour partie, la place aux algorithmes… C’est du moins ce que laissent entendre les discours favorables au recours à la justice prédictive. Le numérique opère un bouleversement profond des pratiques sociales et la justice s’en trouve également affectée. Il ne faut pas oublier que le recours aux algorithmes doit être complémentaire au travail du juge, et non pas se substituer intégralement à lui… Dans cette démarche, la justice prédictive comporte une dérive majeure, celle de sa performativité qui empêcherait les évolutions jurisprudentielles.
L’intelligence artificielle, sur laquelle repose la justice digitale ou simplement prédictive1, peut être définie comme « la science qui consiste à faire faire aux machines ce que l’homme ferait moyennant une certaine intelligence »2. Les algorithmes, qui y sont étroitement mêlés, sont un « ensemble de règles qui définit précisément une séquence d’opérations de sorte que chaque règle soit effective et définie et que la séquence se termine dans un temps fini »3. Les algorithmes d’apprentissage, dits machine learning ou apprentissage automatique, regroupent des méthodes qui permettent de trouver des relations pertinentes et compréhensibles par l’homme au sein d’un jeu de données qui décrit un ensemble d’observations. Il s’agit, dans l’analyse sérielle, des équations, des règles, des regroupements (clusters), des structures de données (graphes)4.
Cette méthode permet la création de processus décisionnels ; le processus de décision est construit automatiquement, à partir des données et non plus à partir des règles créées explicitement par l’homme5. Les algorithmes prédictifs sont aujourd’hui les algorithmes d’apprentissage les plus pertinents. Ils permettent de générer un modèle prédictif basé sur un exemple validé par l’homme. Autrement dit, les données à disposition sont un ensemble composé de variables descriptives ou caractéristiques et de variables dites discriminantes. L’étape de l’apprentissage est un processus itératif dont l’objectif est de minimiser les erreurs. La fonction de prédiction aspire, grâce au contrôle de la réponse donnée par la machine à une question qui lui est posée, à déduire la valeur de la variable discriminante pour un exemple dont la valeur est inconnue6. Ces outils ont été développés, de manière exponentielle, par des entreprises privées. Ces instruments de justice prédictive répondent au nom de legaltechs7. De manière concrète, l’algorithme est capable de restituer les probabilités de résolution d’un litige, d’estimer le montant des indemnités, d’identifier les moyens de droit nécessaires, d’isoler et d’indiquer les faits qui ont pu influer les décisions rendues antérieurement par les juridictions8.
Mais l’entrée des algorithmes dans le monde du droit est révélatrice d’une révolution graphique. Ainsi que l’a souligné Antoine Garapon, le numérique, en tant que nouvelle façon de décrire le monde, permet d’intégrer toutes les formes de langage (parole, son, écrit, etc.), sous un format mathématique. Dans cette nouvelle vision du monde, les individus finissent par assimiler ce nouveau langage à la réalité9.
Le langage juridique a une valeur performative au sens que lui donne John Austin10. Lorsqu’un juge énonce, dans un jugement, qu’il condamne quelqu’un à une peine, son énoncé se traduit généralement en une peine effective11. Il s’agit là de la valeur quasi magique des mots juridiques12.
La justice prédictive pourrait devenir performative à partir du moment où les algorithmes s’appliqueraient directement au litige13. Si pour l’heure, ces outils ne sont qu’une aide accompagnant le juge dans son travail, il ne faut pas négliger le risque de transformation des normativités. La justice prédictive pourrait, en effet, agrémentée d’une sorte de normativité seconde, voir en quelque sorte la norme d’application se substituer à la règle de droit elle-même14. Le juge serait alors presque obligé de se soumettre à la prédiction de l’algorithme.
C’est en cela que la justice prédictive pourrait devenir une « prophétie auto-réalisatrice »15 (self-fulfilling prophecy). Il s’agit d’une définition d’abord fausse d’une situation, mais cette définition erronée suscite un nouveau comportement, qui la rend vraie. C’est une assertion qui induit des comportements de nature à la valider16. En suivant cette logique, la justice prédictive présentera X chose comme ce qui paraît être une situation normale et obligerait le juge à s’y conformer.
La matérialisation de l’effet performatif est exponentielle dans la mesure où la réaction d’obéissance qu’elle entraîne renforce alors l’algorithme dans la réalité de son énoncé17. Dans sa fonction d’aide à la décision à disposition du magistrat, la justice digitale aurait un effet performatif indirect.
L’intelligence artificielle prédit la décision du juge à partir de données accumulées dans une base contenant des décisions antérieures. La démarche invite donc à reproduire le passé, en ne permettant pas d’évolution. L’avenir serait donc condamné au passé.
Notes de bas de pages
-
1.
Dondero B., « Justice prédictive :la fin de l’aléa judiciaire ? », D. 2017, p. 532.
-
2.
CNIL, rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle, Comment permettre à l’Homme de garder la main ?, 15 déc. 2017, p. 16.
-
3.
Stone H., Introduction to Computer Organization and Data Structures, 1972, McGraw-Hill Book Compagny.
-
4.
Hand D., Manila H. et Smyth P., Principles of data mining, 2007, Drug safety, vol. 30, issue 7, p. 621-622.
-
5.
Langley P., « Applications of machine learning and rule induction », Communications of the ACM, 1995, vol. 38, issue 11, p. 54.
-
6.
Charniak E., Introduction to artificial intelligence, 1984, Addison-Wesley, p. 2.
-
7.
Amaro R., « L’“ubérisation” des professions du droit face à l’essor de la legaltech », Dalloz IP/IT 2017, n° 3, p. 163.
-
8.
Coustet T., « L’utilisation de l’outil Predictice déçoit la cour d’appel de Rennes », Dalloz actualité, 16 oct. 2017 ; Prevost S. et Sirinelli P., « Madame Irma, Magistrat », Dalloz IP/IT 2017, n° 11, p. 557 ; Benesty M., « L’open data et l’open source, des soutiens nécessaires à une justice prédictive fiable ? », Journal of open access to law 2017, vol. 5.
-
9.
Garapon A., La justice digitale, 2018, Paris, PUF.
-
10.
Austin J., How to do things with words, 1962, Clarendon Press.
-
11.
Garapon A., Bien juger : essai sur le rituel judiciaire, 1997, Paris, Odile Jacob, p. 209.
-
12.
Garapon A., Bien juger : essai sur le rituel judiciaire, 1997, Paris, Odile Jacob, p. 209.
-
13.
Garapon A., « Les enjeux de la justice prédictive », JCP G 2017, 52, n° 1-2.
-
14.
Benoit D., « De l’émergence de “nouvelles réalités” : les “prédictions créatrices” », revue internationale de psychosociologie 2007, vol. XIII, n° 29, p. 49.
-
15.
Croze H., « La factualisation du droit », JCP G 2017, 175, n° 5.
-
16.
Benoit D., « De l’émergence de “nouvelles réalités” : les “prédictions créatrices” », revue internationale de psychosociologie 2007, vol. XIII, n° 29, p. 49.
-
17.
Ferrié S.-M., « Intelligence artificielle : Les algorithmes à l’épreuve du droit au procès équitable », JCP G 2018, 502, n° 11.