AI Act : le juriste doit devenir l’architecte de la supervision humaine

La supervision humaine n’est pas un bouton d’arrêt. C’est une fonction de gouvernance – et les avocats et juristes sont particulièrement bien placés pour l’organiser.

L’AI Act européen ne pose pas seulement une question de conformité technique. Il oblige progressivement les organisations à se demander qui, concrètement, conserve la maîtrise lorsqu’un système d’intelligence artificielle (IA) intervient dans une décision. Pour les systèmes d’IA à haut risque, l’article 14 exige un contrôle humain effectif par des personnes physiques. La Commission européenne précise en outre que le déployeur doit attribuer cette supervision à une ou plusieurs personnes suffisamment équipées et habilitées pour l’exercer.

Le point décisif est là : la supervision humaine ne peut pas se réduire à une case dans une procédure, à un bouton stop ou à une signature ajoutée à la fin d’un workflow automatisé. Pour être réelle, elle suppose que l’organisation sache qui peut contester le système, dans quelles circonstances, avec quelles informations, selon quelle procédure et avec quelle autorité.

La conformité documentaire ne suffit pas

Nous connaissons déjà ce risque avec le règlement général sur la protection des données : une organisation peut produire des politiques, des registres et des analyses d’impact très corrects sur le papier sans que les pratiques quotidiennes ne changent réellement. Avec l’IA, l’écart entre conformité formelle et maîtrise effective peut être encore plus important.

Une supervision humaine crédible suppose au minimum de cartographier les décisions auxquelles l’IA contribue, d’identifier les personnes impactées, de définir les seuils d’escalade, d’organiser le droit de contester une recommandation algorithmique, de documenter les arbitrages humains et d’évaluer périodiquement les effets réels du système. Elle suppose aussi de lutter contre un risque bien connu : le biais d’automatisation, c’est-à-dire la tendance à suivre la recommandation de la machine précisément parce qu’elle apparaît objective ou techniquement sophistiquée.

Pourquoi le juriste est naturellement au centre

Cette transformation ouvre un champ nouveau pour les avocats et les juristes. Leur valeur ne réside plus seulement dans leur capacité à lire la norme après coup. Ils peuvent devenir les architectes du dispositif qui rend la norme vivante dans l’organisation.

Le juriste sait identifier un risque, qualifier un droit, organiser une preuve, répartir une responsabilité, formaliser un processus et documenter une décision. L’avocat ajoute une culture de l’indépendance, de la contradiction et de la défense des personnes. Ces compétences sont exactement celles dont une organisation a besoin lorsqu’elle doit rendre la supervision humaine effective plutôt que symbolique.

Le changement est profond : le juriste ne vient plus seulement contrôler la décision. Il participe à la conception du cadre dans lequel une décision humaine peut encore être prise en connaissance de cause.

Du conseil juridique au praticien de gouvernance

Cette évolution dépasse l’AI Act. Dans les entreprises, les administrations, les associations ou les institutions, beaucoup de conflits naissent moins d’une absence de droit que d’une mauvaise architecture de décision : personnes concernées absentes du processus, responsabilité diffuse, confusion entre stratégie et exécution, objections non traitées, décisions opaques ou impossibles à contester.

C’est précisément le terrain de la gouvernance éthique. Une bonne pratique serait par exemple que le praticien de gouvernance n’exerce pas le pouvoir à la place du collectif. Il sécurise le processus : il aide à identifier les personnes réellement impactées, fait émerger les objections, veille à la qualité de l’information, distingue la décision stratégique de l’autorité d’exécution et s’assure que la décision reste attribuable à des humains responsables.

Pour un avocat ou un juriste, cette fonction constitue une extension naturelle du métier. Elle mobilise le droit, mais aussi la facilitation, la communication, l’éthique appliquée et la compréhension des dynamiques organisationnelles.

Former des juristes capables de gouverner l’IA – et pas seulement de la réglementer

L’AI Act renforce également la question de la maîtrise de l’IA au sein des organisations. L’article 4 impose aux fournisseurs et déployeurs de prendre des mesures pour soutenir le développement d’une maîtrise suffisante de l’IA par les personnes qui la font fonctionner ou l’utilisent pour leur compte. Cette exigence ne crée pas une certification obligatoire de responsable IA, mais elle consacre une idée essentielle : une organisation ne peut pas gouverner correctement des systèmes qu’elle ne comprend pas.

La formation des juristes doit donc évoluer. Comprendre l’AI Act est nécessaire ; apprendre à organiser une délibération, à construire une procédure de contestation, à documenter une objection, à identifier les parties impactées et à superviser un système dans la durée l’est tout autant.

« AI advises. Humans govern. » (L’IA conseille, les humains décident)

Je défends une idée simple : l’intelligence artificielle peut préparer, analyser, comparer, mémoriser et éclairer ; elle ne doit pas confisquer la responsabilité de décider.

Cette formule — « AI advises. Humans govern. » — n’est pas un slogan contre la technologie. C’est une répartition des rôles. Plus l’IA devient puissante, plus il devient nécessaire de renforcer la qualité des processus humains qui l’encadrent.

Pour les avocats et les juristes, c’est peut-être l’une des grandes évolutions professionnelles des prochaines années. Ils resteront interprètes du droit. Mais ils peuvent aussi devenir les praticiens de la gouvernance qui permet à l’humain de rester souverain sur les décisions qui l’engagent.