A – La prise de position de nature à gommer les variables de l’Administration algorithmée

Au titre des missions conférées au DDD par la loi organique du 29 mars 2011, l’article 25 dispose que : « le [DDD] peut faire toute recommandation qui lui apparaît de nature à garantir le respect des droits et libertés de la personne lésée et à régler les difficultés soulevées devant lui ou à en prévenir le renouvellement ».

Si la force normative de la recommandation est discutable, l’influence de cette prérogative est indéniable.

Le DDD n’hésite plus à user de cette prérogative : le pouvoir exécutif et l’Administration sont d’ailleurs les premiers destinataires de ses recommandations, notamment en ce qui concerne les risques liés aux algorithmes.

À titre illustratif, suite à plusieurs milliers de saisines d’usagers relatant des difficultés rencontrées avec l’Agence nationale des titres sécurisés (ANTS) dans le cadre de la délivrance des permis de conduire et des certificats d’immatriculation à la suite de la mise en place du plan Préfectures nouvelle génération (PPNG), le DDD a rendu une décision le 3 septembre 2018 dans laquelle il édicte plusieurs recommandations et préconise notamment au Premier ministre de mettre en place des mesures destinées à éviter les dysfonctionnements liés au recours massif à la dématérialisation.

Confirmant ces risques, le DDD a également publié un récent rapport qui souligne les inégalités, liées à la dématérialisation, d’accès au service public, ce qui est de nature à mettre en exergue que le développement de l’utilisation du numérique, dont les algorithmes sont une manifestation, est une problématique sociétale et juridique majeure.

Le DDD dispose en outre du pouvoir de rendre des avis sur les projets ou propositions de loi. À cet égard, le DDD est intervenu en matière d’utilisation des algorithmes par l’Administration.

B – Les avis du DDD pour l’amélioration de la protection des usagers face aux inconnues des équations utilisées par l’Administration algorithmée

En vertu de l’article 32 de la loi organique de 201110, le DDD peut recommander de procéder aux modifications législatives ou réglementaires qui lui paraissent utiles.

Faisant usage de cette prérogative, le DDD a rendu plusieurs avis prônant la mise en place de garanties de nature à rendre l’utilisation des algorithmes par l’Administration conforme aux droits et libertés.

Ainsi, aux termes de l’avis 16-09 du 7 avril 2016, le DDD a émis des propositions et réserves relatives au projet de loi pour une République numérique11.

Il y affirme qu’afin de garantir la protection de la vie privée et de protéger contre les risques de discriminations et d’inégalités résultant de l’exploitation des données personnelles de l’individu par les algorithmes prédictifs, il y a lieu :

• de soumettre l’Administration à un principe de loyauté de l’usage des données personnelles, c’est-à-dire que l’information délivrée doit être claire et transparente, notamment en ce qui concerne les critères utilisés ;

• de consacrer un droit d’accès numérique à l’information, qui comprend notamment le droit d’accès aux règles définissant les traitements algorithmiques utilisés par les administrations publiques, lorsque ces traitements débouchent sur des décisions individuelles ;

• enfin de refuser le recours aux critères qui pourraient être discriminatoires : par exemple, l’origine, les convictions religieuses, les données de santé (et donc la maladie).

Certes ces propositions n’ont pas toutes été reprises par la loi pour une République numérique. Toutefois la récente décision du Conseil constitutionnel, relative au contrôle de constitutionnalité a priori de la loi pour la protection des données personnelles qui ouvre notamment la possibilité pour l’Administration de recourir à des décisions individuelles automatisées, montre l’influence de l’avis précité du DDD. En effet, par sa décision n° 2018-765 du 12 juin 201812, le Conseil constitutionnel relève que le législateur a garanti la sauvegarde des droits et libertés des personnes soumises aux décisions administratives individuelles prises sur le fondement exclusif d’un algorithme en édictant, notamment, l’obligation pour l’Administration de maîtriser l’algorithme utilisé, en interdisant le recours aux algorithmes auto-apprenants et en interdisant d’utiliser exclusivement un algorithme portant sur des données sensibles liées à l’origine raciale ou l’origine ethnique, aux opinions politiques, aux convictions religieuses ou encore aux données génétiques de l’usager.

C’est donc la marque de l’influence du DDD face au législateur qui a édicté des dispositions relatives au recours par l’Administration d’un algorithme.

L’édiction d’avis et de recommandations n’est cependant pas le seul terrain d’action du DDD, lequel peut intervenir a posteriori, à l’occasion d’un litige.

A – La médiation, matrice du dialogue entre usager et Administration algorithmée

La médiation est définie comme un mode alternatif de résolution des conflits, par lequel un tiers neutre et indépendant permet de trouver une solution à un conflit et donc d’éviter un contentieux.

Or la médiation est l’antithèse de la systématisation des décisions et de l’automatisation des données.

Avec elle, l’usager n’est plus un chiffre puisque la médiation contraint l’Administration à étudier de façon particulière le dossier, in concreto.

Dans la phase de médiation, il n’est plus donc question de mathématiques. Le numéro, identifiant de l’usager, est gommé pour laisser place à un nom, un visage, une histoire. L’humain et l’étude in concreto du dossier permettent de contrebalancer a posteriori, c’est-à-dire après l’édiction de la décision individuelle, les méfaits de l’usage systématique des algorithmes. Au recours à l’algorithme qui a permis froidement la prise de la décision se substituent des motifs clairs, précis, concrets, de nature à parfois faire taire la complexité des chiffres.

La logique des calculs cède souvent devant la démonstration d’une décision illégale ou prise sur des motifs qui n’ont fait aucune place à l’équité.

Cette richesse de la médiation, son recours exponentiel, ses avantages et ses enjeux sont tels qu’une expérimentation de la médiation préalable obligatoire est en place.

En effet, la loi du 18 novembre 2016 de modernisation de la justice du XXIe siècle a confié au DDD l’expérimentation d’un nouveau processus de règlement amiable : la médiation préalable obligatoire (MPO). Lancée depuis le 1er avril 2018, et aujourd’hui prévue jusqu’en 2020, cette expérimentation doit permettre de désengorger les tribunaux administratifs. Ce dispositif est en pratique mis en œuvre par les délégués du DDD dans six départements : Bas-Rhin, Isère, Haute-Garonne, Loire-Atlantique, Maine-et-Loire et Meurthe-et-Moselle.

Une procédure dédiée à la MPO a donc été définie dans cette perspective, permettant à l’institution d’agir en prévention du contentieux tout en conditionnant l’accès à l’office du juge. Cette procédure, prévoit que la demande de médiation préalable obligatoire doit être adressée par le réclamant au siège du DDD, ce qui suspend les délais de recours contentieux. Le dossier est ensuite transmis au délégué qui engage la procédure de médiation entre le réclamant et l’administration mise en cause. La fin de la procédure se concrétise par l’envoi au réclamant d’un document daté attestant de la clôture de la médiation.

C’est à cette date que les délais de recours contentieux courent à nouveau. Cette expérimentation témoigne de la reconnaissance envers le rôle des délégués, placés au cœur de ce dispositif, en offrant à un public fragile, pour lequel l’accès au juge est souvent difficile, un véritable espace de dialogue et une seconde chance par l’intervention d’un tiers neutre, impartial et indépendant, pour améliorer l’accès aux droits qui peuvent être lésés par l’Administration algorithmée.

B – La multiplication des interventions du DDD en matière de discrimination du fait de l’utilisation des algorithmes par l’Administration

La discrimination, notion juridique définie comme la rupture d’égalité au détriment d’une personne en fonction d’un critère reconnu par la loi, bénéficie désormais d’un cadre juridique précis, tant en matière administrative13, sociale14 que pénale15. La protection des personnes discriminées et la lutte contre les comportements discriminatoires font partie des compétences du DDD16. Si la discrimination résulte souvent d’un comportement humain, le recours aux algorithmes est également de nature à entraîner de telles ruptures défavorables d’égalité. De telles situations sont révélées dans le cas de l’usage d’algorithmes auto-apprenants ou dans le cas de recours à des critères algorithmiques flous.

Depuis août 2018, le DDD a par exemple décidé d’ouvrir une instruction sur le fonctionnement de la nouvelle plate-forme d’admission dans l’enseignement supérieur Parcours sup, à la suite des réclamations des usagers.

Le critère de discrimination retenu en priorité par le DDD est celui du lieu de résidence puisqu’il apparaît que de nombreux usagers arguent d’être défavorisés dans le choix des filières lorsqu’ils viennent de quartiers plus défavorisés.

En tout état de cause, le DDD a donc demandé à l’Administration de respecter le principe de transparence et de connaître les critères auxquels elle a eu recours pour mettre en place l’algorithme utilisé par Parcours sup. Le ministère de l’Enseignement supérieur et de la Recherche s’est engagé à rendre ces éléments publics, preuve de l’influence directe du DDD en la matière.