Sandrine Zientara-Logeay : « L’IA pourrait permettre d’améliorer la qualité du travail de la Cour de cassation »

Actu-Juridique : Vous dirigez le SDER, service de documentation de la Cour de cassation. Comment fonctionne ce service, à l’origine du rapport sur l’IA ?

Sandrine Zientara-Logeay : Le SDER, Service de la documentation, des études, et du rapport, dont l’ancêtre, le Fichier central de la jurisprudence, existe à la Cour depuis 1947, assure des fonctions classiques essentielles au fonctionnement de la Cour. Ces dernières années, il a vu ses missions sensiblement renouvelées du fait de l’open data, de la création de l’observatoire des litiges, des projets d’IA. Il est de plus en plus orienté vers des missions qui n’intéressent pas que la Cour de cassation mais l’ensemble des juridictions. C’est un service composé de 90 personnes, divisé en deux pôles. Le premier intervient pour effectuer des recherches et aider les magistrats de la Cour. Il est composé de six bureaux dits « miroirs » des chambres, correspondant chacun à une chambre de la Cour. S’y ajoutent un bureau du droit public et un bureau du droit comparé, droit européen et droit international, ainsi qu’un observatoire des litiges judiciaires. Le deuxième pôle s’occupe notamment de la diffusion de la jurisprudence, de l’open data et de l’IA. L’open data concerne toutes les juridictions puisque la Cour de cassation a la charge de diffuser toutes les décisions : les siennes, celles des cours d’appel ainsi que celles des tribunaux judiciaires, des tribunaux de commerce et des conseils des prud’hommes, qui jusqu’alors n’étaient disponibles d’aucune manière. Cela concernera également aussi à terme les décisions pénales d’appel ou de premières instances. Ces missions qui intéressent l’institution tout entière ont été confiées à la Cour de cassation. Toutes les équipes qui travaillent sur l’open data, 35 personnes, appartiennent à ce deuxième pôle du SDER. S’y trouve également un « laboratoire d’innovation », composé d’une équipe d’une dizaine de personnes et réunissant des compétences techniques, de data scientist, de développeurs, de devOps, qui imaginent les solutions innovantes dans la diffusion de l’open data et l’IA. Ce laboratoire a été créé en 2019 pour accompagner la diffusion des décisions de justice en open data, confiée à la Cour de cassation.

AJ : Comment avez-vous travaillé pour ce rapport sur l’IA à la Cour de cassation ?

Sandrine Zientara-Logeay : Les chefs de la Cour de cassation ont décidé de la création d’une mission de réflexion sur l’usage de l’IA dans le but de développer les usages à la Cour de cassation tout en le faisant avec prudence, c’est-à-dire en en mesurant les risques. J’ai présidé ce groupe de travail interne, qui réunissait des magistrats du siège ou du parquet général représentant chacune des chambres de la Cour, des membres du service de la documentation, des études, et du rapport (SDER) et notamment les deux datas scientists du laboratoire d’innovation et des représentants du greffe. Nous avons d’abord conduit un travail documentaire sur le sujet, en compilant diverses sources. Puis nous avons, grâce au service des relations internationales de la Cour, mené une étude sur les usages comparés de l’IA en Europe et dans le monde, en particulier dans les Cours suprêmes. Nous avons procédé à une trentaine d’auditions : des juristes, des scientifiques, des spécialistes de sciences humaines. Nous avons pris contacts avec des institutions : le ministère de la Justice, l’ENM, la CEPEJ. Et puis, nous nous sommes rapprochés des autres Cours suprêmes nationales : Conseil d’État et Conseil constitutionnel. Ensuite, de manière plus concrète, nous avons essayé de déterminer les besoins en matière d’IA au sein de la Cour. Pour ce faire, les représentants du greffe ainsi que les magistrats du groupe de travail représentant les chambres ont interrogé leurs collègues pour savoir quels usages de l’IA ils souhaiteraient voir développer à la Cour. Ces réflexions ont eu lieu en pleine émergence de l’IA générative, considérée comme la deuxième révolution de l’IA, porteuses de changements majeurs. ChatGPT venait de sortir et les potentialités extraordinaires de l’IA générative étaient découvertes par le grand public.

AJ : Comment avez-vous défini les différents « cas d’usages » de l’IA par la Cour ?

Sandrine Zientara-Logeay : Ces cas d’usage possibles ont été évalués selon certains critères. Le critère fonctionnel d’abord : il s’agissait de savoir quel gain quantitatif ou qualitatif l’IA pouvait apporter à la Cour. Outre ces critères fonctionnels, nous avions des critères techniques, établis grâce aux expertises de nos datas scientists sur la faisabilité des usages imaginés. S’ajoutaient à cela des critères économiques liés au coût de fabrication et de maintenance de ces outils. Enfin, les critères juridiques et éthiques ont bien sûr été prédominants dans notre réflexion. À partir de là, nous avons fait des propositions autour de cas d’usages. Nous en avons identifié concernant les écritures des parties, l’exploitation des bases de données détenues par la Cour de cassation, l’aide à la rédaction. À partir de ces grandes familles de cas d’usages, nous avons proposé plusieurs directions aux chefs de Cour.

AJ : Quels besoins ont exprimé les différentes personnes consultées ?

Sandrine Zientara-Logeay : Pour le greffe, deux principaux besoins ont émergé : celui d’un outil d’aide à la rédaction des ordonnances de désistement – il y en a environ 2 000 par an à la Cour -, et celui d’un autre outil consistant à automatiser les demandes de certificats de non-pourvoi, elles aussi très nombreuses.

Les magistrats de la Cour, qu’ils soient conseillers référendaires ou avocat généraux ont à peu près les mêmes besoins. Ils ont fait savoir qu’un outil d’enrichissement des écritures leur serait utile. L’enrichissement, c’est le fait d’identifier les références à de la jurisprudence, des articles de loi ou de décrets dans un mémoire, un rapport ou un avis, et de créer ensuite des liens automatiques vers ces références, voire de procéder à des rapprochements de jurisprudence. Les magistrats de la Cour jugent également utile tout ce qui relève de l’IA documentaire juridique. Chat GPT a montré à tout un chacun le côté séduisant des outils conversationnels, qui permettent de faire des recherches juridiques en posant des questions en langage humain plutôt que des recherches par mots-clés. La Cour a cependant des besoins très spécifiques, les recherches étant effectuées par des magistrats très spécialisés. L’idée a émergé de chercher à développer des outils internes, entraînés sur les bases de données propres de la Cour, très riches et nourries de données complètement fiables.

Enfin, un autre besoin d’IA a été identifié concernant le repérage des questions émergentes ou connexes dans les pourvois. La création d’outil qui permettrait de faire le lien entre des pourvois qui posent la même question de droit et arrivent en même temps, ou entre des pourvois venant d’être enregistrés et des pourvois déjà pendants, est perçue comme une aide importante par les magistrats de la Cour. Nous avons également réfléchi à des outils d’aide à la rédaction, que nous distinguons bien des outils d’aide à la décision.

AJ : L’IA est-elle utilisée aujourd’hui à la Cour de cassation ?

Sandrine Zientara-Logeay : Aujourd’hui à la Cour de cassation, le SDER a deux importants usages de l’IA. Le premier est la création d’un algorithme de pseudonymisation automatisée, indispensable pour faire face aux exigences du choix français d’une diffusion exhaustive et non sélective des décisions de justice en open data. Il repose sur le traitement du langage naturel. Il a une efficacité remarquable avec un taux de succès très important. On approche aujourd’hui des 2 millions de décisions diffusées et il devrait y en avoir autant chaque année lorsque toutes les décisions rendues seront diffusées en open data. Un deuxième algorithme, de fiabilité, permet de repérer des décisions qui peuvent nécessiter une relecture humaine.

Le second est un algorithme de pré-orientation qui distribue les dossiers devant être répartis dans les différentes chambres civiles et commerciales. Les écritures des avocats au Conseil étant très structurées, cet outil arrive à identifier la question de droit posée et vers quelle chambre celle-ci doit être traitée. Le processus est revu humainement par les juristes car certains cas peuvent poser des difficultés. Néanmoins, cette pré-orientation est exacte à plus de 90 %. C’est aussi une très belle réussite en termes de programme d’IA pour la Cour de cassation.

AJ : Quel gain de qualité peut apporter l’IA ?

Sandrine Zientara-Logeay : On a l’habitude de penser que l’IA est d’abord un gain de temps, puisqu’elle peut réaliser en quelques secondes des tâches sans valeur ajoutée et très chronophages pour les magistrats. La Cour, qui n’est pas comme les juridictions du fond confrontées à des contentieux de masse, répétitifs, provoquant l’engorgement que l’on connaît, s’est attachée à essayer de réfléchir à des cas d’usage qui permettraient aussi des gains qualitatifs. J’ai en tête trois exemples d’IA qui permettraient d’améliorer la qualité du travail de la Cour.

L’outil de repérage de connexité entre mémoires ampliatifs offrirait la possibilité de mieux traiter les questions de droit nouvelles. Mettre à jour les connexions entre les pourvois permettrait, par exemple de traiter ceux posant une même question de droit lors d’une même audience, de ne pas rester enfermé dans le moyen et la question de droit posée à partir de l’arrêt attaqué, et d’aborder la question dans toutes ses implications. Les magistrats de la Cour essayent déjà de faire ce travail de rapprochements, mais de manière assez artisanale. L’IA devrait pouvoir faire cela de manière plus fiable et rapide.

L’IA pourrait également s’avérer intéressante dans le traitement des litiges sériels. Ces derniers, du fait de leur caractère répétitif, comportent un risque d’erreur. Quand les questions semblent être les mêmes, le risque est d’aller trop vite, d’oublier des moyens, de ne pas voir les différences entre deux dossiers. L’IA pourrait permettre, outre de gagner du temps, d’éviter ces erreurs.

L’IA pourrait enfin apporter un gain qualitatif en analysant une grande masse de données jurisprudentielles. La Cour cherche de plus en plus à analyser des décisions de juges du fond sur des contentieux nouveaux ou pour mesurer l’impact de sa jurisprudence. L’IA pourrait analyser bien plus de décisions, en un temps record et donc venir enrichir le dialogue des juges, le débat juridique devant la Cour de cassation et permettre aussi de repérer dans ces contentieux des divergences de jurisprudence qui peuvent avoir pour effet de nuire à l’équité de traitement du justiciable.

AJ : Quels risques l’IA peut en revanche comporter pour les droits fondamentaux ?

Sandrine Zientara-Logeay : Les risques pour les droits fondamentaux sont importants, peut-être encore plus dans les juridictions du fond qu’à la Cour de cassation. Ces risques sont de différentes sortes. Les plus identifiés concernent l’atteinte à la vie privée et à la protection des données. Dès qu’on commence à travailler sur les données jurisprudentielles d’un dossier, on touche à des éléments sensibles de la vie privée. Des données médicales peuvent, par exemple, s’y trouver. On y remédie par la pseudonymisation des décisions qui sont le carburant de l’IA. On prévoit aussi, comme le préconise le ministère de la Justice dans un rapport récent sur le sujet, des outils internalisés avec des serveurs propres sécurisés.

Autre catégorie de risque bien identifiée : les pièges discriminatoires qui existent dans les algorithmes dans tous les domaines, et pas uniquement dans celui de la justice. Il faut les identifier, garantir la transparence et la fiabilité des algorithmes.

On parle moins du risque d’atteinte à la dignité humaine, qu’il faut pourtant prendre au sérieux. Dans l’institution judiciaire, cela concerne notamment les outils d’IA prédictive notamment en matière pénale. Des outils d’IA prédictive venant par exemple générer des propositions de peines en fonction du risque de réitération viendraient nier le principe de l’autonomie personnelle, le principe de « non-détermination humaine », pour reprendre l’expression de la juriste et universitaire Mireille Delmas Marty.

Enfin, ce n’est pas le plus documenté mais il devrait beaucoup nous interroger à l’avenir : le risque d’atteinte au procès équitable, garanti par l’article 6 de la Convention européenne des droits de l’Homme. Des questions vont se poser autour du respect du principe du contradictoire. Si une proposition de décision est générée par l’IA, faudra-t-il la verser au débat pour que les avocats puissent s’exprimer par rapport à celle-ci ? Une trame de décision générée par l’IA pourra-t-elle constituer une motivation ? Des outils d’IA qui iraient très loin dans l’aide à la décision seraient-ils compatibles avec l’existence d’un tribunal indépendant et impartial ? Comment garantir que le magistrat, compte tenu des biais d’encrage ou d’automatisation, conserve de manière effective et non seulement théorique la possibilité de s’écarter de solutions générées par l’IA ?

AJ : L’IA pourrait-elle rédiger la décision ?

Sandrine Zientara-Logeay : Pour le moment, cela n’existe pas. Le rapport de la CEPEJ sur l’utilisation de l’IA dans le monde judiciaire montre que nulle part il n’existe une justice entièrement robotisée. Cela est d’ailleurs interdit par le droit européen et par le droit national. En ce qui concerne la Cour, aucune demande de ce type, ni même d’aide à la décision, n’a été exprimée lors des consultations que nous avons menées. Vu la nature de nos dossiers, nous avons souhaité l’exclure. Le raisonnement juridique au stade de la Cour de cassation n’est jamais un pur syllogisme. Ses magistrats peuvent être amenés à avoir d’autres types d’analyses, contextuelles, conséquentialistes. Ils peuvent être amenés à aller sur des terrains axiologiques ou de contrôle de proportionnalité qui nous paraissent par nature ne pas pouvoir être dédiés à l’IA. De surcroît, l’IA travaille uniquement à partir de décisions déjà rendues. Elle excelle à reconnaître des similarités et à proposer pour des situations de droit identiques la même solution. Or la Cour de cassation est la garante de la vitalité de la jurisprudence, de sa capacité à s’adapter aux évolutions sociétales, économiques, sanitaires. Cela nous a donc semblé périlleux d’aller dans cette voie. Nous ne pouvons pas nous contenter, dans une Cour suprême, de la reproduction des décisions passées ou majoritaires au sein des Cours suprêmes.

AJ : La réglementation de l’IA est-elle suffisante ?

Sandrine Zientara-Logeay : Cette réglementation de l’IA est encore en construction. Le règlement IA, adopté en juin 2024, pose le principe selon lequel l’IA devient à haut risque dès lors qu’elle est utilisée par l’autorité judiciaire. Il prévoit dans ses annexes un grand nombre d’exceptions : quand le risque d’atteinte aux droits fondamentaux n’est pas important ou en cas d’absence d’influence significative sur le résultat de la prise de décision. On introduit donc une réduction du périmètre des IA à haut risque. De surcroît, quand bien même une IA serait qualifiée de IA à haut risque, elle n’est pas prohibée. Il est demandé de mettre en place une politique d’évaluation et d’atténuation des risques avec une mise en conformité qui repose sur des impératifs de traçabilité, de transparence, de surveillance, de robustesse des outils. Ce sont des obstacles surmontables. Les règles de l’AI Act sont des règles minimales, auxquelles nous avons considéré dans le rapport qu’il fallait ajouter des principes éthiques. À cet égard, la charte de la CEPEJ invite à mettre en place une autorégulation et souligne notamment qu’il importe que le juge conserve son intervention à tous les stades du processus depuis l’appréhension du dossier jusqu’à la décision finale, et garde la maîtrise humaine des décisions. Il doit utiliser l’IA parce qu’il le décide, de manière ponctuelle et en en gardant le contrôle.

AJ : À quoi servirait le comité de suivi du développement de l’IA à la Cour ?

Sandrine Zientara-Logeay : Pour l’instant il n’est pas mis en place. C’est en cours de réflexion. Il s’agit juste d’une préconisation du groupe de travail qui, comme dit plus haut, a proposé une méthode d’évaluation des cas d’usages en fonction d’un certain nombre de critères, notamment éthiques et juridiques. Cette évaluation doit intervenir ex ante pour déterminer quels projets seront lancés, et ensuite tout au long de la durée de vie des projets d’IA pour évaluer selon ces critères si ces IA sont satisfaisantes, doivent être améliorées ou abandonnées, avec toujours cette idée qu’il faut une vision claire de ce que ça peut transformer dans l’office du juge ou les grands équilibres du procès équitables.

L’idée serait qu’un comité assure le suivi éthique des projets d’IA tout au long de leur durée de vie. Il pourrait être composé de magistrats de la Cour et de scientifiques, afin d’assurer un dialogue entre scientifiques et juristes. Il pourrait s’adjoindre en tant que de besoin des spécialistes en sciences humaines ou en théorie du droit pour évaluer, par exemple ce que l’IA transforme dans l’acte de juger ou le raisonnement juridique. Sur les IA à haut risque, qui se rapprochent du processus décisionnel, il paraît indispensable d’avancer avec cette prudence-là.