Alexandra Bensamoun : « Les données humaines sont nécessaires aux performances des modèles d’IA »

Actu-Juridique : Depuis quand vous intéressez-vous à l’intelligence artificielle ?

Alexandra Bensamoun : Je suis professeure d’université et spécialiste en droit de la propriété intellectuelle et en droit du numérique. Dès ma thèse, je me suis intéressée aux interactions entre le droit d’auteur et les nouvelles technologies. À l’université, nous n’avions pas encore parfaitement identifié les enjeux juridiques transversaux liés à ces sujets et le droit du numérique faisait figure d’exception. Les choses ont beaucoup évolué de ce point de vue et l’université Paris-Saclay est particulièrement impliquée dans la stratégie IA.

Je siège d’ailleurs au comité exécutif de l’Institut Convergence de l’université Paris-Saclay, DATAIA, depuis sa création il y a une dizaine d’années, aujourd’hui labellisé Cluster IA. J’ai travaillé sur ce que l’on appelait alors les robots, puis sur l’intelligence artificielle. Ces années de recherche m’ont permis d’acquérir une compréhension de la technique car je travaille avec des chercheurs en informatique, en mathématiques, en économie. À ces connaissances, j’applique ensuite des raisonnements juridiques.

AJ : Quels textes régissent l’IA aujourd’hui ?

Alexandra Bensamoun : L’AI Act ou RIA (règlement européen sur l’intelligence artificielle), adopté en juin 2024, est le premier texte horizontal qui a vocation à répondre aux enjeux et aux risques suscités par l’IA. Il le fait sans doute imparfaitement, notamment parce qu’il a fait l’objet d’un énorme lobbying, que les parlementaires européens eux-mêmes ont dénoncé. Malgré ses limites, il a le grand mérite de mettre le sujet sur la table et de s’interroger sur les risques. Il existe également une convention-cadre sur l’IA et les droits fondamentaux, adoptée par le Conseil de l’Europe l’an dernier. En plus des 46 États membres, des États non-membres, notamment les États-Unis et la Chine, ont été associés à la discussion de ce traité. Ces deux textes ont des approches différentes et complémentaires. Le règlement émane de l’Union européenne, dont la vocation première est de réguler le marché. L’intervention européenne par le biais du règlement est d’ailleurs justifiée par l’article 114 du TFUE, le Traité sur le fonctionnement de l’UE, qui porte sur la construction du marché unique. La convention issue du Conseil de l’Europe est un texte international. Elle devra ensuite connaître des mesures d’application dans les États signataires et porte en premier lieu sur les droits fondamentaux. Pour résumer, les enjeux de marché et économiques sont abordés par le règlement, les enjeux sur les droits fondamentaux des personnes, la démocratie et l’État de droit par la convention du Conseil de l’Europe. Cela étant, ces deux textes se complètent, conformément au mandat respectif des autorités concernées, mais sans pour autant ignorer les autres aspects. Le RIA prend aussi en compte la protection des droits fondamentaux.

AJ : Que prévoit le règlement européen sur l’IA ?

Alexandra Bensamoun : Le règlement sur l’IA a tenté de répondre à un certain nombre de ces enjeux avec une approche par les risques. C’est une approche très moderne, qui s’annonce comme conciliant la régulation et l’innovation. Plus les risques portés aux droits humains, à l’État de droit et à la sécurité sont importants, plus l’étreinte normative se resserre. On présente couramment cette approche sous la forme d’une pyramide des risques. Tout en haut de la pyramide se trouve le « risque inacceptable » : la manipulation des comportements, la surveillance de masse en direct dans l’espace public, la notation sociale… Ces systèmes d’IA sont purement et simplement interdits dans l’UE, car ils ne correspondent pas aux valeurs promues par l’UE. Juste en dessous se trouve la catégorie du « haut risque », la plus fournie, qui fait l’objet du plus grand nombre d’articles dans le RIA. Dans cette catégorie, les risques sont importants pour les droits, pour la sécurité et la santé, par exemple dans le secteur de la justice, de la formation, de la migration ou encore des infrastructures essentielles. Ici, des obligations importantes sont imposées en termes de documentation, de sécurité et de supervision humaine, avec notamment une procédure de mise en conformité avant la mise sur le marché et un marquage CE. Encore en dessous existe une catégorie de « risque limité » qui vise, entre autres, la génération d’images ou les chatbots. L’usager devra être informé que l’image est générée par l’IA ou qu’il a affaire à un chatbot. Tout en bas, lorsque les risques sont minimes, le règlement n’a pas vocation à ajouter de règles supplémentaires à celles qui existent déjà dans le corpus normatif européen. Tout au plus un engagement éthique – code de conduite, charte… – est-il promu. Ce règlement prévoit ainsi une responsabilisation graduelle et progressive des acteurs de l’IA en fonction du risque généré par les systèmes mis sur le marché européen.

Quelques règles supplémentaires sont apparues tardivement dans le processus normatif du texte, poussées par l’actualité et réservées à l’IA générative, plus exactement aux modèles d’IA à usage général, qui donnent lieu à des applications d’IA générative. Ces outils bénéficient de dispositions spécifiques, notamment concernant le droit d’auteur et les droits voisins du droit d’auteur. Celles-ci ont été adoptées dans la douleur lors du dernier des trilogues, en décembre 2023.

AJ : Quelles sont les problématiques spécifiques à l’IA générative ?

Alexandra Bensamoun : Comme indiqué, le règlement parle des « modèles ». Pour créer ces outils, une étape d’entraînement sur des masses de données est indispensable. Ces dernières peuvent être protégées par la propriété intellectuelle, être à caractère personnel ou non réservées. Le système va « apprendre » de ces contenus, dans une démarche inductive, et va ensuite pouvoir générer un résultat, une tendance, une corrélation, ou un contenu. L’étreinte normative dépend, là encore, de certains critères : le modèle est-il ou non en open source ? Présente-t-il ou non un risque systémique ? Ce dernier existe quand le modèle peut avoir une incidence significative, à grande échelle, sur le marché européen, et donc des effets éventuels sur la sécurité et les droits fondamentaux. La contrainte normative augmente en fonction du degré de risque. En outre, que le modèle soit open source ou non, à risque systémique ou non, il existe toujours des exigences liées au droit d’auteur et aux droits voisins.

AJ : Quelles sont ces exigences liées au droit d’auteur, en matière d’IA générative ?

Alexandra Bensamoun : Deux obligations sont imposées aux fournisseurs d’IA – en substance les fabricants. D’une part, ceux-ci doivent intégrer une politique de conformité au droit d’auteur et aux droits voisins. Ils doivent mettre en place des dispositions, des mesures techniques opérationnelles et architecturales qui permettent le respect de ces droits, notamment le respect de « l’opt out », c’est-à-dire du refus du titulaire de droits que son contenu soit fouillé et serve à l’entraînement des modèles. Cette obligation est détaillée dans un code of practice, dont le contenu a été publié il y a quelques semaines et rédigé par un groupe d’experts nommés par la Commission européenne. D’autre part, les fournisseurs d’IA doivent également produire un template, c’est-à-dire un « résumé suffisamment détaillé » des contenus utilisés pour l’entraînement des modèles. Un modèle de template a été publié également il y a quelques semaines par le Bureau de l’intelligence artificielle, un organe créé par le règlement européen.

Ces deux documents complémentaires ne satisfont pas du tout le secteur de la culture. Au début de l’été, l’ensemble de ses représentants se sont, de manière unanime au niveau européen, opposés à l’interprétation donnée par les instances européennes, considérée comme minimaliste.

AJ : Vous avez été mandatée par le gouvernement pour suivre ces négociations européennes. Quel a été votre rôle ?

Alexandra Bensamoun : En décembre 2024, à la demande de la ministre de la Culture, j’ai remis au Conseil supérieur de la propriété littéraire et artistique (CSPLA) un rapport sur la mise en œuvre du règlement européen sur l’IA. J’ai travaillé sur le modèle de template, ou « résumé suffisamment détaillé ». La mission avait pour objectif d’en préciser les contours et de proposer un modèle, qui a d’ailleurs été porté par la ministre au niveau européen. La formule utilisée pour traduire cette exigence de transparence, en forme d’oxymore, est la preuve du lobbying et des tensions contraires qui se sont exercées. Cela a été très dur d’imposer une certaine transparence aux fournisseurs d’IA. J’ai proposé dans le rapport un modèle de résumé en m’aidant pour l’interprétation des considérants. Dans l’un d’entre eux se trouve l’idée que ce template doit aider les parties à faire respecter leurs droits : la disposition est donc finalisée. Si le secret des affaires ne peut être ignoré, il ne peut faire échec au droit à la preuve et à l’effectivité des droits. Rappelons à ce titre que le droit de propriété est un droit fondamental. J’ai résumé les contours de l’obligation de transparence par une métaphore culinaire souvent reprise : « Tous les ingrédients, mais pas la recette », donc les données utilisées, mais pas les techniques qui constituent l’avantage concurrentiel des entreprises.

J’ai poursuivi, au printemps 2025, avec une deuxième mission sur la rémunération des contenus utilisés par les systèmes d’IA, mission qui contenait aussi un volet économique conduit par la Professeure Joëlle Farchy. Je devais pour ma part identifier les mesures juridiques incitatives qui pourraient permettre de créer un marché éthique et compétitif, respectueux de la chaîne de valeur et donc rémunérant les données entrantes qui font l’objet d’un monopole. J’ai mis en avant, dans le premier axe de ce deuxième rapport, la nécessité de restaurer l’effectivité des droits. Aujourd’hui, les titulaires de droit ne peuvent pas les exercer car ils ignorent si leur contenu a été utilisé. C’est un problème de droit fondamental car le droit à la preuve est un droit primaire, sur lequel repose le procès équitable. On ne peut pas se satisfaire, dans une démocratie, d’être dans l’impossibilité de prouver l’existence d’un acte qu’on estime illicite. Pour ce faire, différents instruments juridiques sont proposés : la mise en place d’un médiateur de l’IA, l’instauration d’une présomption légale d’utilisation des contenus lorsqu’il existe des indices pertinents (mais le juge pourrait aussi poser une présomption judiciaire en la matière), la consécration d’une injonction de divulgation des éléments de preuve (à la manière de la procédure de discovery étasunienne).

Néanmoins, l’idée n’est pas d’aller au judiciaire mais de créer les conditions d’un marché de licence. Les mesures juridiques ont aussi une vocation incitative. Si l’incitation fonctionne (on le voit avec la transaction aux États-Unis entre Anthropic et des titulaires de droits), on peut espérer que le marché commence à s’établir.

AJ : Comment les auteurs pourraient-ils être rémunérés ?

Alexandra Bensamoun : Le deuxième axe de mon rapport juridique propose d’établir un modèle de rémunération fondé sur le consentement et donc la négociation de licences. Aujourd’hui, les titulaires de droits ne peuvent consentir à l’utilisation de leurs productions, faute d’être informés. Il est essentiel de restaurer leur volonté au moment où elle leur a été confisquée. Cette autorisation pourrait d’ailleurs être « massive », par exemple lorsque le titulaire dispose d’un catalogue ou que l’accord passe par un organisme de gestion collective, voire un regroupement d’organismes, pour impliquer toute la chaîne de valeur culturelle.

AJ : Comment les créateurs et les fournisseurs d’IA pourraient-ils s’entendre ?

Alexandra Bensamoun : Le troisième axe du deuxième rapport consiste à faciliter l’accès aux données protégées. C’est fondamental pour que le droit soit respecté. Il faut prendre en compte à la fois les besoins des titulaires de droits et ceux des fournisseurs d’IA. Pour ce faire, des fournisseurs techniques de données (l’INA, la BNF mais aussi des « databrokers » privés) pourraient faciliter l’accès et les autorisations, sous le contrôle des ayants droit évidemment. Cette proposition avait déjà été formulée dans le rapport interministériel auquel j’avais contribué en amont, « IA : notre ambition pour la France », remis au Président Emmanuel Macron en mars 2024. De même, il serait pertinent de créer des « datasets » de données culturelles licitées. Il s’agit aussi, pour les titulaires de droits, de faire une offre de qualité et de recouvrer ainsi un pouvoir de marché.

AJ : Pourquoi cette régulation de l’IA intervient-elle si tard ? Son usage est déjà largement développé…

Alexandra Bensamoun : Les modèles d’IA ont commencé à se développer à partir de 2017 sans que personne ne soit au courant. En 2020, le CSPLA, sous l’égide du ministère de la Culture, m’avait demandé de faire le rapport de transposition en droit national l’exception de text and data mining – ou fouille de textes et de données, en français – intégrée à la directive sur le droit d’auteur dans le marché unique numérique (2019). À cette époque, les titulaires de droits ne s’estimaient pas tous concernés. Personne n’imaginait en effet un tel déploiement et une telle mise à disposition du public de l’intelligence artificielle. Une fois qu’elle a émergé, il fallait réagir mais cela prend du temps. Le temps du droit est un temps de retenue. Le droit ne peut que répondre à un besoin social. Il faut un dysfonctionnement pour que le droit intervienne. Le droit est en ce sens une matière vivante car encadrant la vie des êtres humains. Il doit, par essence, être en retard sur les comportements sociaux. Si l’on réprime des comportements avant même qu’ils existent, on peut craindre le règne de l’arbitraire… Le législateur européen est intervenu dans des délais raisonnables. ChatGPT a émergé fin 2022. Deux ans plus tard, un texte a été adopté. Il y a ensuite un délai pour que les entreprises apprennent à se mettre en conformité. Les dispositions sur le droit d’auteur sont entrées en vigueur le 2 août 2025.

AJ : Dans votre rapport de 2024, vous mentionnez le fait que les données humaines s’appauvrissent. Comment cela se fait-il ?

Alexandra Bensamoun : De plus en plus de contenus sont générés par IA, y compris sur les réseaux. Or les fournisseurs d’IA entraînent les modèles soit à partir de sets de données mis à disposition sans autorisation, comme Library Genesis (Libgen), qui contient notamment de nombreux livres ayant obtenu des prix littéraires, soit en allant récupérer les données du net, où les données synthétiques sont de plus en plus présentes. Sur ce point, il a été démontré que lorsqu’un modèle s’entraîne uniquement à partir de données générées par IA, il s’effondre. Les données humaines sont en ce sens nécessaires aux performances des modèles d’IA. Et les données culturelles sont des données de qualité pour les modèles.

En définitive, il est logique de payer ces intrants précieux à la construction d’un modèle, tout comme les autres intrants sont chèrement valorisés.