L’intelligence artificielle au XXIe siècle : outil juridique fiable ou amplificateur d’injustices ?

A – Compétence des avocats et secret professionnel

En France. Le décret du 12 juillet 2005, article 3, alinéa 3, souligne que l’avocat « fait preuve, à l’égard de ses clients, de compétence, de dévouement, de diligence et de prudence ». L’obligation de formation continue lui apporte une plus-value sur l’IA dont les données ne sont pas toujours réactualisées. Se reposer entièrement sur les résultats fournis par l’IA se révèle dangereux. De plus en plus, la presse s’est fait l’écho des erreurs générées par les nouvelles technologies. Ainsi, en 2023, deux avocats américains ont été condamnés à une amende de 4 600 dollars pour avoir produit de fausses jurisprudences obtenues à l’aide de Chat GPT23. Par ailleurs, une étude a été réalisée en 2023 pour voir s’il était en mesure de réussir des examens de droit à l’université du Minnesota. Elle a démontré que s’il possède une bonne compréhension des règles juridiques de base, il rencontre des difficultés à identifier les problèmes pertinents et à appliquer les règles de manière approfondie et judicieuse par rapport aux étudiants en droit réels24.

Aux États-Unis, les règles de conduite professionnelle de l’Association du barreau américain25 soulignent qu’un avocat est guidé par sa conscience personnelle et doit s’efforcer d’atteindre le plus haut niveau de compétence. De surcroît, elles précisent que la représentation « nécessite les connaissances juridiques, l’habileté, le sérieux » ainsi qu’une préparation raisonnablement suffisante. Il est également indiqué que : « Pour maintenir les connaissances, il doit se tenir au courant des changements dans la loi et sa pratique, y compris les avantages et les risques associés à la technologie pertinente, s’engager dans des études et une formation continue ».

L’avantage des juristes par rapport à l’intelligence artificielle réside dans leur capacité à assimiler et à s’adapter aux évolutions constantes du droit et de sa pratique. Contrairement à une IA, qui peut être programmée pour effectuer des tâches spécifiques, ils possèdent une compréhension nuancée et contextuelle des lois et des procédures judiciaires. De plus, ils ont une connaissance actualisée des nouvelles dispositions législatives. Ils jouent également un rôle crucial quant à la protection des informations confiées.

La confidentialité des données. Aux États-Unis, les règles de déontologie professionnelle de l’American bar association (règle 1.6), disposent que les avocats ne doivent « pas révéler d’informations relatives à la représentation d’un client à moins qu’il ne donne son consentement éclairé, que la divulgation soit implicitement autorisée afin de mener à bien la représentation ». Par ailleurs, la règle 1.6 (c) prévoit qu’ils sont tenus de : « Prendre des mesures raisonnables pour empêcher la divulgation involontaire ou non autorisée, ou l’accès non autorisé, à des informations ». En Angleterre et au Pays de Galles, ils doivent « garder confidentielles les affaires des clients actuels et anciens, sauf si la divulgation est requise ou autorisée par la loi ou si le client y consent ». En France, l’article 2.1 du règlement intérieur national souligne que l’avocat est le confident nécessaire du client. Le secret professionnel est d’ordre public. Il est général, absolu et illimité dans le temps.

Aujourd’hui, la confidentialité des données n’est pas garantie par l’IA. Certaines LegalTech proposent d’analyser les conclusions adverses pour proposer des arguments en réponse ou encore pour trouver les jurisprudences citées. Nul ne sait encore qui détient ces données et quel usage en est fait, voire s’il est possible de les supprimer des programmes. De plus, les individus sont confrontés à une surcharge de demandes de consentement. Compte tenu des limites de la rationalité humaine et de l’empressement des utilisateurs, ceux-ci peuvent adhérer trop vite et accepter le traitement d’informations privées, sans avoir pris le temps d’en mesurer toutes les conséquences.

B – Intérêt des clients et partialité de l’IA

Avec le développement de l’IA, les pratiques discriminatoires, telles que le racisme, le sexisme et les préjugés, demeurent souvent enracinées lors de la collecte de données personnelles. Cela peut engendrer des dommages conséquents aux individus déjà marginalisés, et saper ainsi les valeurs démocratiques d’égalité et de justice.

Un discours adapté. Les avocats adaptent leurs conseils en fonction de leurs interlocuteurs. Aux États-Unis, le préambule aux règles modèles de l’American bar association reconnaît leur obligation « de protéger et de poursuivre avec zèle les intérêts légitimes du client, dans les limites de la loi ». Le Restatement of the Law Governing Lawyers exige qu’ils « agissent de manière raisonnablement calculée » pour faire avancer leurs objectifs légaux. En Angleterre et au Pays de Galles, les principes de l’Autorité de régulation des solicitors leur imposent d’agir dans le meilleur intérêt de chaque client. Ils sont tenus de délivrer des informations de manière compréhensible pour qu’ils puissent prendre des décisions éclairées sur les services dont ils ont besoin, et sur les options qui s’offrent à eux. En France, l’article 21.2.7 du règlement intérieur national est similaire. Il en va différemment avec les utilisateurs de l’IA qui sont souvent dans une position d’asymétrie informationnelle. En effet, bien souvent, ils ignorent quels sont leurs droits et méconnaissent le fonctionnement réel de la technologie. Enfin, seuls les avocats peuvent comprendre que, ce qui peut apparaître comme une affaire mineure pourrait, en réalité, constituer l’événement le plus crucial et potentiellement dévastateur dans la vie des individus concernés.

Exigence de loyauté et d’indépendance26.Outre-Atlantique, le code de conduite professionnelle de l’Association du barreau américain mentionne également les principes suivants : « Loyauté et indépendance sont des éléments essentiels dans la relation des avocats envers leur client » (rule 7). En se basant sur le 6e amendement de la Constitution, le barreau américain a réussi à garantir son indépendance vis-à-vis de toute interférence gouvernementale. En Europe, le code de déontologie des avocats de l’UE place ce principe en premier et considère qu’il a un caractère absolu (art. 2.1.1). La prestation juridique n’a pas de valeur si elle a été donnée sous l’effet d’une pression extérieure.

En France, le règlement intérieur national dispose également que la profession d’avocat est indépendante quel que soit son mode d’exercice (RIN, art. 1.1). Les avocats doivent avoir conscience des déficiences des IA, afin de pouvoir contester de manière adéquate leur utilisation lors de procédures pénales. Plus encore, il leur incombe de faire respecter l’État de droit et d’assurer la protection de tous les citoyens en excluant toute forme de discrimination.

Le mythe de l’impartialité de l’IA. Elle ne peut faire preuve d’indépendance totale car ses méthodes de raisonnement dépendent des informations introduites par l’informaticien dans son programme. Ses contempteurs soulignent le fait qu’il s’agit de systèmes impénétrables reposant sur des réseaux neuronaux opaques dont les entrées et les opérations ne sont visibles ni pour l’utilisateur ni pour toute autre partie intéressée. Il existe un défaut évident de clarté sur la manière dont les données sont codées. Le bureau du commissaire à l’information du Royaume-Uni déclare que « la complexité du traitement des données via des réseaux aussi massifs crée un effet de “boîte noire”.27 Dans le même sens, des chercheurs de l’université d’Harvard avaient démontré que cela pouvait conduire à des résultats obscurs28 ou discriminatoires – autant d’éléments susceptibles dans le futur de nuire à la justice sociale et d’encourager la violation des droits fondamentaux. Les décisions prises par une IA peuvent être difficiles à expliquer, ce qui peut entraîner un manque de confiance des individus, surtout lorsque des décisions financières importantes sont en jeu. Le problème est d’autant plus complexe qu’aux États-Unis les algorithmes ont un caractère exclusif et sont protégés par la loi29. L’affaire People versus Chubbs30 a mis en évidence l’urgence d’établir un cadre juridique efficace pour résoudre le conflit entre les droits constitutionnels des accusés et ceux relevant de la propriété intellectuelle qui protège les entreprises. En l’espèce, un accusé condamné à mort s’était vu refuser l’accès à des informations confidentielles (sur le fonctionnement d’un logiciel médico-légal qui l’avait déclaré coupable), sous prétexte que le développeur invoquait le secret commercial.

Les différents biais comme travers de l’algorithmocracie. Les psychologues cognitifs31 ont été les pionniers dans la théorisation du phénomène. S’appuyant sur les travaux de Maurice Merleau-Ponty, ils précisent que les biais implicites peuvent être définis comme des habitudes perceptuelles qui reposent sur des stéréotypes. Selon O. Sibony, professeur affilié à HEC, il s’agit d’« erreurs systématiques, d’écarts réguliers par rapport aux choix dits “rationnels” »32. Les modèles d’intelligence artificielle sont susceptibles de reproduire les préjugés qui influencent la prise de décision humaine de multiples façons. D’abord, dans le cadre des technologies émergentes, les systèmes d’IA utilisant des réseaux neuronaux repèrent les schémas récurrents présents dans les ensembles de données existants et anticipent les événements futurs à partir de ces informations. Néanmoins, il existe une forte possibilité que ces systèmes imitent, voire accentuent les a priori. Kate Crawford, professeur en Californie et à l’école normale supérieure de Paris, déclare que l’IA n’est pas « une technique de calcul objective, universelle ou neutre » dans la mesure où elle est susceptible d’amplifier les « inégalités structurelles existantes »33. De plus, d’autres difficultés peuvent être liées à l’utilisation de données périmées, de sélections déformées, d’un échantillonnage non représentatif, ou encore de statistiques trompeuses. Enfin, dans un ouvrage intitulé l’Algorithme éthique, publié aux presses universitaires d’Oxford, les auteurs dénoncent le fait que les décisions prises à partir d’informations ou d’algorithmes biaisés peuvent « être à la base d’une collecte de données ultérieure, formant une boucle de rétroaction pernicieuse »34. La présence d’une supervision humaine par un juriste s’avère essentielle pour contester un résultat incorrect, incertain ou discriminatoire.

Biais et droit pénal. Si un algorithme35 est formé à partir de données qui sont majoritairement issues de personnes d’un certain groupe démographique ou culturel, il peut avoir des difficultés à généraliser correctement ses prédictions pour d’autres ensembles de personnes. La Law society36 relève que la façon dont les informations sont étiquetées, évaluées et classées est influencée par des jugements subjectifs. Cela peut engendrer des biais comme l’adoption de stratégies de police qui ciblent injustement certaines communautés, ou la suggestion de propositions de sanctions disproportionnées. En l’absence de sensibilisation et de contrôle juridique efficace, les systèmes d’IA ont le potentiel d’amplifier les préjugés existants et d’aggraver les disparités entre individus. Lorsque l’IA émet une prédiction, elle se fonde uniquement sur les diplômes, les antécédents judiciaires37, l’expérience professionnelle, l’âge, le sexe, sans tenir compte des considérations éthiques liées au contexte socio-économique des personnes impliquées. Pour évaluer le risque de récidive, les modèles se fondent aussi sur des critères, tels que le lieu de résidence (souvent associée à la race et à l’appartenance ethnique), les interactions avec les forces de l’ordre et d’autres aspects personnels qui ne seraient généralement pas pris en compte devant un tribunal. Autant d’éléments sur lesquels les avocats doivent faire preuve d’une vigilance accrue. Ils doivent contribuer à défendre avec force le principe d’individualisation des peines, d’égalité, de dignité humaine. De plus, le type de discrimination qui se produit dans le cadre de la modélisation prédictive peut ne pas être pris en compte par la législation existante.

Aux États-Unis : plus d’IA, moins de lois ? Outre-Atlantique, la réglementation est encore embryonnaire. Lors de l’adoption de la National Artificial Intelligence Initiative Act de 2020, le Congrès des États-Unis a publié une déclaration conjointe d’intention du Congrès du Sénat et de la chambre des représentants qui condamne sur la forme les IA qui établissent illégalement une discrimination à l’encontre de catégories de personnes protégées, notamment sur la base du sexe, de la race, de l’âge, du handicap, de la couleur, de la croyance, de la nationalité, de l’origine, ou de la religion38. En 2024, seule une douzaine des 200 projets39 de lois liés à l’IA présentés dans les États ont été adoptés. La tendance actuelle est de privilégier le développement des nouvelles technologies plutôt qu’une approche juridique restrictive. En effet, une telle orientation constituerait un frein à leur croissance et emporterait des conséquences économiques gigantesques. À l’heure de la concurrence et de la compétition cognitive internationale, cela aurait également des implications géostratégiques en affaiblissant la position d’influence mondiale des États-Unis.

Le droit européen : une protection suffisante ? Le règlement général sur la protection des données de l’Union européenne de 2016 avait souligné les abus potentiels des IA. Le considérant 71 du règlement insiste sur la nécessité de mettre en œuvre des « mesures techniques et organisationnelles » visant à « prévenir, entre autres, les effets discriminatoires sur les personnes physiques fondés sur l’origine raciale ou ethnique, l’opinion politique, la religion ou les convictions, l’adhésion à un syndicat, le statut génétique ou de santé ou l’orientation sexuelle ». De tels travers avaient été également dénoncés à maintes reprises par le Parlement européen40. La charte éthique européenne précise par ailleurs qu’« en matière pénale, leur usage doit être envisagé avec la plus grande réserve afin de prévenir les discriminations fondées sur des données sensibles, dans le respect des garanties d’un procès équitable »41. Dans le même sens, la Commission européenne pour l’efficacité de la Justice a posé le principe de non-discrimination. Toutefois, la protection des citoyens est encore symbolique. Étant donné que les algorithmes sont protégés par le secret commercial, cela entrave la transparence. Certes, l’article 5 de la directive de l’Union européenne n° 2016/943 sur la protection des secrets d’affaires réglemente les exceptions et permet la levée de cette protection « aux fins de protéger un intérêt légitime reconnu par le droit de l’Union ou national ». Ainsi, le droit de faire une déclaration concernant une décision automatique entraînant une discrimination algorithmique peut être considéré comme « protégeant un intérêt légitime », mais cela n’est pas systématique.

L’IA Act de 2024 : une incitation à la responsabilité algorithmique ? L’Union européenne est la première organisation au niveau international à mettre en place une législation qui englobe tous les aspects de l’IA dont la justice pénale. Ce cadre juridique uniforme lui confère une position hégémonique et de leader dans la promotion d’une conduite éthique, se distinguant nettement des approches américaine et chinoise. Il s’agit d’un système basé sur l’évaluation des risques qu’il hiérarchise en quatre niveaux (inacceptable, élevé, modéré, nul). Plus ces derniers sont importants, plus la réglementation est contraignante. Adopté par le Parlement européen le 13 mars 2024, il enrichit le cadre juridique de l’UE en introduisant des critères précis visant à réduire les discriminations algorithmiques (art. 10) et la police prédictive fondée sur le profilage. Ils se concentrent notamment sur la conception et la qualité des données utilisées dans le développement des systèmes d’IA, et sont accompagnés d’obligations relatives aux tests, à la gestion des risques, à la documentation et la supervision humaine tout au long du cycle de vie de ces systèmes. L’IA Act souligne la nécessité dans l’article 1.1 de garantir un niveau élevé de protection de la sécurité et droits fondamentaux consacrés dans la Charte. Plus encore, l’article 71 prévoit des amendes administratives pouvant aller jusqu’à 35 000 000 euros ou, si le contrevenant est une entreprise, jusqu’à 7 % du chiffre d’affaires annuel mondial total réalisé au cours de l’exercice précédent. Malgré ces progrès juridiques louables, il reste que si, lors des discussions, la commission a mené une analyse d’impact sur les systèmes d’IA à haut risque, elle a ignoré ceux à usage général comme ChatGPT. En effet, il fallait trouver des compromis entre les différents États membres et ne pas porter atteinte au potentiel d’innovation, ce qui donne lieu in fine à des encadrements limités en fonction des évolutions technologiques. Enfin, il faudra attendre les décisions des juridictions européennes pour voir comment s’articuleront les principes de l’IA Act et le secret des affaires des grandes entreprises.

Proposition de loi. En France, il conviendrait de légiférer pour imposer un certain degré de transparence des modèles prédictifs d’IA et limiter toute discrimination et généralisation fallacieuse.

Ainsi, le rêve prométhéen d’une machine complètement autonome et dotée d’un esprit critique ne semble pas encore réalisé. D’un côté, l’IA peut traiter un grand nombre d’information. De l’autre, elle n’est pas exempte de possibles défaillances techniques et peut amplifier les discriminations. Même s’il existe différents textes comme le Règlement général sur la protection des données, le Digital Market Act et Service Act ou encore l’IA Act de 2024, les avocats conservent un rôle crucial face aux dérives potentielles des nouvelles technologies. Ils ont également la capacité d’offrir un soutien émotionnel et moral. En définitive, l’idéal repose sur une combinaison entre l’expertise des juristes et l’utilisation des systèmes informatiques capables de gérer une immense quantité de données à une vitesse remarquablement élevée. Pour éviter un avenir dystopique, en tant que spécialiste du droit, notre responsabilité demeure immense : il est essentiel d’élaborer un monde dans lequel les machines ne diminuent ni notre intelligence, ni notre ingéniosité, et où l’IA ne nous robotise pas.