Quand l’avenir se condamne au passé : la justice prédictive face au problème de la prophétie auto-réalisatrice

L’intelligence artificielle, sur laquelle repose la justice digitale ou simplement prédictive1, peut être définie comme « la science qui consiste à faire faire aux machines ce que l’homme ferait moyennant une certaine intelligence »2. Les algorithmes, qui y sont étroitement mêlés, sont un « ensemble de règles qui définit précisément une séquence d’opérations de sorte que chaque règle soit effective et définie et que la séquence se termine dans un temps fini »3. Les algorithmes d’apprentissage, dits machine learning ou apprentissage automatique, regroupent des méthodes qui permettent de trouver des relations pertinentes et compréhensibles par l’homme au sein d’un jeu de données qui décrit un ensemble d’observations. Il s’agit, dans l’analyse sérielle, des équations, des règles, des regroupements (clusters), des structures de données (graphes)4.

Cette méthode permet la création de processus décisionnels ; le processus de décision est construit automatiquement, à partir des données et non plus à partir des règles créées explicitement par l’homme5. Les algorithmes prédictifs sont aujourd’hui les algorithmes d’apprentissage les plus pertinents. Ils permettent de générer un modèle prédictif basé sur un exemple validé par l’homme. Autrement dit, les données à disposition sont un ensemble composé de variables descriptives ou caractéristiques et de variables dites discriminantes. L’étape de l’apprentissage est un processus itératif dont l’objectif est de minimiser les erreurs. La fonction de prédiction aspire, grâce au contrôle de la réponse donnée par la machine à une question qui lui est posée, à déduire la valeur de la variable discriminante pour un exemple dont la valeur est inconnue6. Ces outils ont été développés, de manière exponentielle, par des entreprises privées. Ces instruments de justice prédictive répondent au nom de legaltechs7. De manière concrète, l’algorithme est capable de restituer les probabilités de résolution d’un litige, d’estimer le montant des indemnités, d’identifier les moyens de droit nécessaires, d’isoler et d’indiquer les faits qui ont pu influer les décisions rendues antérieurement par les juridictions8.

Mais l’entrée des algorithmes dans le monde du droit est révélatrice d’une révolution graphique. Ainsi que l’a souligné Antoine Garapon, le numérique, en tant que nouvelle façon de décrire le monde, permet d’intégrer toutes les formes de langage (parole, son, écrit, etc.), sous un format mathématique. Dans cette nouvelle vision du monde, les individus finissent par assimiler ce nouveau langage à la réalité9.

Le langage juridique a une valeur performative au sens que lui donne John Austin10. Lorsqu’un juge énonce, dans un jugement, qu’il condamne quelqu’un à une peine, son énoncé se traduit généralement en une peine effective11. Il s’agit là de la valeur quasi magique des mots juridiques12.

La justice prédictive pourrait devenir performative à partir du moment où les algorithmes s’appliqueraient directement au litige13. Si pour l’heure, ces outils ne sont qu’une aide accompagnant le juge dans son travail, il ne faut pas négliger le risque de transformation des normativités. La justice prédictive pourrait, en effet, agrémentée d’une sorte de normativité seconde, voir en quelque sorte la norme d’application se substituer à la règle de droit elle-même14. Le juge serait alors presque obligé de se soumettre à la prédiction de l’algorithme.

C’est en cela que la justice prédictive pourrait devenir une « prophétie auto-réalisatrice »15 (self-fulfilling prophecy). Il s’agit d’une définition d’abord fausse d’une situation, mais cette définition erronée suscite un nouveau comportement, qui la rend vraie. C’est une assertion qui induit des comportements de nature à la valider16. En suivant cette logique, la justice prédictive présentera X chose comme ce qui paraît être une situation normale et obligerait le juge à s’y conformer.

La matérialisation de l’effet performatif est exponentielle dans la mesure où la réaction d’obéissance qu’elle entraîne renforce alors l’algorithme dans la réalité de son énoncé17. Dans sa fonction d’aide à la décision à disposition du magistrat, la justice digitale aurait un effet performatif indirect.

L’intelligence artificielle prédit la décision du juge à partir de données accumulées dans une base contenant des décisions antérieures. La démarche invite donc à reproduire le passé, en ne permettant pas d’évolution. L’avenir serait donc condamné au passé.