Le Défenseur des droits, acteur-clé face à l’Administration algorithmée

Publié le 13/02/2019

Le recours à l’outil numérique, à l’instar des algorithmes, est un progrès indéniable pour l’Administration. Il serait cependant fallacieux de croire que ces algorithmes, en tant qu’élément objectif d’aide à la prise de décision, puissent être utilisés aveuglément sans risque d’inégalité. À cet égard, le Défenseur des droits apparaît comme une autorité soucieuse du respect des droits des administrés, face à l’Administration algorithmée.

Au rang des progrès ayant bouleversé nos comportements, le numérique arrive en bonne place. Irriguant désormais toute la société, aucun pan ne semble lui avoir échappé. Pas même les domaines qui paraissaient hier ne pouvoir être gérés que par l’humain n’échappent à ce phénomène. L’Administration, jadis si attachée au papier et aux archives, n’a jamais été aussi connectée : dématérialisation des procédures d’immatriculation des véhicules1, service en ligne de contrôle de légalité des actes2, dématérialisation de la passation des contrats de la commande publique3, mise en place d’un fichier de traitement de données à caractère personnel dénommé titres électroniques sécurisés4, dématérialisation des procédures juridictionnelles5, dispositif d’échanges dématérialisés des données d’état civil6, sont autant d’exemples attestant de l’inclusion de l’outil numérique dans les affaires administratives.

L’Administration a ainsi décidé, pour des motifs différents touchant à la fois à la systématisation et donc à l’égalité tout autant qu’à la célérité de l’édiction des décisions administratives, d’avoir recours à la dématérialisation ainsi qu’à des algorithmes de nature à faciliter et automatiser le travail administratif.

La technologie dite intelligente ne l’est cependant que si elle est respectueuse des droits des administrés et l’Administration algorithmée est indéniablement un atout pourvu qu’elle ne se soustraie pas aux garanties essentielles que commande le recours aux algorithmes et surtout, qu’elle ne multiplie pas les inégalités existantes.

Or, cette technologie peut être grippée : bugs informatiques, phase d’expérimentation incomplète voire inexistante, modes de communication avec les usagers insuffisants, opacité des critères utilisés par les algorithmes sont autant de risques que peut engendrer le phénomène de l’Administration algorithmée.

Face à de tels risques, le Défenseur des droits (DDD), autorité administrative indépendante issue de la loi constitutionnelle du 23 juillet 20087, apparaît comme un acteur clé de la relation administré/Administration algorithmée. Sans revenir sur l’ensemble des prérogatives dont l’article 71-1 de la constitution8, complétée par la loi organique du 29 mars 20119, l’investissent, il sera envisagé d’étudier la façon dont le DDD use de ses prérogatives face à l’Administration algorithmée.

Nous constaterons que cette influence existe à deux niveaux : de façon consultative (I) ou pré-juridictionnelle (II).

I – Le DDD et sa mission consultative permettant la mise en place de garde-fous face à l’Administration algorithmée

Les prises de position fréquentes du DDD par le biais de recommandations à destination de l’Administration (A) ou d’avis essentiellement à destination du législateur (B) sont de nature à mettre en place des garde-fous face à l’Administration algorithmée.

A – La prise de position de nature à gommer les variables de l’Administration algorithmée

Au titre des missions conférées au DDD par la loi organique du 29 mars 2011, l’article 25 dispose que : « le [DDD] peut faire toute recommandation qui lui apparaît de nature à garantir le respect des droits et libertés de la personne lésée et à régler les difficultés soulevées devant lui ou à en prévenir le renouvellement ».

Si la force normative de la recommandation est discutable, l’influence de cette prérogative est indéniable.

Le DDD n’hésite plus à user de cette prérogative : le pouvoir exécutif et l’Administration sont d’ailleurs les premiers destinataires de ses recommandations, notamment en ce qui concerne les risques liés aux algorithmes.

À titre illustratif, suite à plusieurs milliers de saisines d’usagers relatant des difficultés rencontrées avec l’Agence nationale des titres sécurisés (ANTS) dans le cadre de la délivrance des permis de conduire et des certificats d’immatriculation à la suite de la mise en place du plan Préfectures nouvelle génération (PPNG), le DDD a rendu une décision le 3 septembre 2018 dans laquelle il édicte plusieurs recommandations et préconise notamment au Premier ministre de mettre en place des mesures destinées à éviter les dysfonctionnements liés au recours massif à la dématérialisation.

Confirmant ces risques, le DDD a également publié un récent rapport qui souligne les inégalités, liées à la dématérialisation, d’accès au service public, ce qui est de nature à mettre en exergue que le développement de l’utilisation du numérique, dont les algorithmes sont une manifestation, est une problématique sociétale et juridique majeure.

Le DDD dispose en outre du pouvoir de rendre des avis sur les projets ou propositions de loi. À cet égard, le DDD est intervenu en matière d’utilisation des algorithmes par l’Administration.

B – Les avis du DDD pour l’amélioration de la protection des usagers face aux inconnues des équations utilisées par l’Administration algorithmée

En vertu de l’article 32 de la loi organique de 201110, le DDD peut recommander de procéder aux modifications législatives ou réglementaires qui lui paraissent utiles.

Faisant usage de cette prérogative, le DDD a rendu plusieurs avis prônant la mise en place de garanties de nature à rendre l’utilisation des algorithmes par l’Administration conforme aux droits et libertés.

Ainsi, aux termes de l’avis 16-09 du 7 avril 2016, le DDD a émis des propositions et réserves relatives au projet de loi pour une République numérique11.

Il y affirme qu’afin de garantir la protection de la vie privée et de protéger contre les risques de discriminations et d’inégalités résultant de l’exploitation des données personnelles de l’individu par les algorithmes prédictifs, il y a lieu :

  • de soumettre l’Administration à un principe de loyauté de l’usage des données personnelles, c’est-à-dire que l’information délivrée doit être claire et transparente, notamment en ce qui concerne les critères utilisés ;

  • de consacrer un droit d’accès numérique à l’information, qui comprend notamment le droit d’accès aux règles définissant les traitements algorithmiques utilisés par les administrations publiques, lorsque ces traitements débouchent sur des décisions individuelles ;

  • enfin de refuser le recours aux critères qui pourraient être discriminatoires : par exemple, l’origine, les convictions religieuses, les données de santé (et donc la maladie).

Certes ces propositions n’ont pas toutes été reprises par la loi pour une République numérique. Toutefois la récente décision du Conseil constitutionnel, relative au contrôle de constitutionnalité a priori de la loi pour la protection des données personnelles qui ouvre notamment la possibilité pour l’Administration de recourir à des décisions individuelles automatisées, montre l’influence de l’avis précité du DDD. En effet, par sa décision n° 2018-765 du 12 juin 201812, le Conseil constitutionnel relève que le législateur a garanti la sauvegarde des droits et libertés des personnes soumises aux décisions administratives individuelles prises sur le fondement exclusif d’un algorithme en édictant, notamment, l’obligation pour l’Administration de maîtriser l’algorithme utilisé, en interdisant le recours aux algorithmes auto-apprenants et en interdisant d’utiliser exclusivement un algorithme portant sur des données sensibles liées à l’origine raciale ou l’origine ethnique, aux opinions politiques, aux convictions religieuses ou encore aux données génétiques de l’usager.

C’est donc la marque de l’influence du DDD face au législateur qui a édicté des dispositions relatives au recours par l’Administration d’un algorithme.

L’édiction d’avis et de recommandations n’est cependant pas le seul terrain d’action du DDD, lequel peut intervenir a posteriori, à l’occasion d’un litige.

II – Le DDD, géomètre de l’accord amiable entre Administration algorithmée et administré

Au titre de l’article 26 de la loi organique précitée, « le [DDD] peut procéder à la résolution amiable des différends portés à sa connaissance, par voie de médiation ». Cette dernière a vocation à intervenir dans les litiges classiques opposant les usagers et l’Administration algorithmée (A) tout autant que sur le point plus particulier qui relève de la discrimination (B).

A – La médiation, matrice du dialogue entre usager et Administration algorithmée

La médiation est définie comme un mode alternatif de résolution des conflits, par lequel un tiers neutre et indépendant permet de trouver une solution à un conflit et donc d’éviter un contentieux.

Or la médiation est l’antithèse de la systématisation des décisions et de l’automatisation des données.

Avec elle, l’usager n’est plus un chiffre puisque la médiation contraint l’Administration à étudier de façon particulière le dossier, in concreto.

Dans la phase de médiation, il n’est plus donc question de mathématiques. Le numéro, identifiant de l’usager, est gommé pour laisser place à un nom, un visage, une histoire. L’humain et l’étude in concreto du dossier permettent de contrebalancer a posteriori, c’est-à-dire après l’édiction de la décision individuelle, les méfaits de l’usage systématique des algorithmes. Au recours à l’algorithme qui a permis froidement la prise de la décision se substituent des motifs clairs, précis, concrets, de nature à parfois faire taire la complexité des chiffres.

La logique des calculs cède souvent devant la démonstration d’une décision illégale ou prise sur des motifs qui n’ont fait aucune place à l’équité.

Cette richesse de la médiation, son recours exponentiel, ses avantages et ses enjeux sont tels qu’une expérimentation de la médiation préalable obligatoire est en place.

En effet, la loi du 18 novembre 2016 de modernisation de la justice du XXIe siècle a confié au DDD l’expérimentation d’un nouveau processus de règlement amiable : la médiation préalable obligatoire (MPO). Lancée depuis le 1er avril 2018, et aujourd’hui prévue jusqu’en 2020, cette expérimentation doit permettre de désengorger les tribunaux administratifs. Ce dispositif est en pratique mis en œuvre par les délégués du DDD dans six départements : Bas-Rhin, Isère, Haute-Garonne, Loire-Atlantique, Maine-et-Loire et Meurthe-et-Moselle.

Une procédure dédiée à la MPO a donc été définie dans cette perspective, permettant à l’institution d’agir en prévention du contentieux tout en conditionnant l’accès à l’office du juge. Cette procédure, prévoit que la demande de médiation préalable obligatoire doit être adressée par le réclamant au siège du DDD, ce qui suspend les délais de recours contentieux. Le dossier est ensuite transmis au délégué qui engage la procédure de médiation entre le réclamant et l’administration mise en cause. La fin de la procédure se concrétise par l’envoi au réclamant d’un document daté attestant de la clôture de la médiation.

C’est à cette date que les délais de recours contentieux courent à nouveau. Cette expérimentation témoigne de la reconnaissance envers le rôle des délégués, placés au cœur de ce dispositif, en offrant à un public fragile, pour lequel l’accès au juge est souvent difficile, un véritable espace de dialogue et une seconde chance par l’intervention d’un tiers neutre, impartial et indépendant, pour améliorer l’accès aux droits qui peuvent être lésés par l’Administration algorithmée.

B – La multiplication des interventions du DDD en matière de discrimination du fait de l’utilisation des algorithmes par l’Administration

La discrimination, notion juridique définie comme la rupture d’égalité au détriment d’une personne en fonction d’un critère reconnu par la loi, bénéficie désormais d’un cadre juridique précis, tant en matière administrative13, sociale14 que pénale15. La protection des personnes discriminées et la lutte contre les comportements discriminatoires font partie des compétences du DDD16. Si la discrimination résulte souvent d’un comportement humain, le recours aux algorithmes est également de nature à entraîner de telles ruptures défavorables d’égalité. De telles situations sont révélées dans le cas de l’usage d’algorithmes auto-apprenants ou dans le cas de recours à des critères algorithmiques flous.

Depuis août 2018, le DDD a par exemple décidé d’ouvrir une instruction sur le fonctionnement de la nouvelle plate-forme d’admission dans l’enseignement supérieur Parcours sup, à la suite des réclamations des usagers.

Le critère de discrimination retenu en priorité par le DDD est celui du lieu de résidence puisqu’il apparaît que de nombreux usagers arguent d’être défavorisés dans le choix des filières lorsqu’ils viennent de quartiers plus défavorisés.

En tout état de cause, le DDD a donc demandé à l’Administration de respecter le principe de transparence et de connaître les critères auxquels elle a eu recours pour mettre en place l’algorithme utilisé par Parcours sup. Le ministère de l’Enseignement supérieur et de la Recherche s’est engagé à rendre ces éléments publics, preuve de l’influence directe du DDD en la matière.

Notes de bas de pages

  • 1.
    A., 30 mai 2017, portant information du public sur la dématérialisation de la procédure de demande de duplicata de certificat d’immatriculation d’un véhicule et modifiant l’arrêté du 9 février 2009 relatif aux modalités d’immatriculation des véhicules.
  • 2.
    D. n° 2005-324, 7 avr. 2005, relatif à la transmission par voie électronique des actes des collectivités territoriales soumis au contrôle de légalité et modifiant la partie réglementaire du Code général des collectivités territoriales.
  • 3.
    Ord. n° 2015-899, 23 juill. 2015, relative aux marchés publics, ratifiée par L. n° 2016-1691, 9 déc. 2016, art. 39 et D., 25 mars 2016.
  • 4.
    D. n° 2016-1460, 28 oct. 2016, autorisant la création d’un traitement de données à caractère personnel relatif aux passeports et aux cartes nationales d’identité : JO n° 0254, 30 oct. 2016, texte n° 18. Le recours pour excès de pouvoir, formé contre ce décret, a d’ailleurs été rejeté : CE, 18 oct. 2018, n° 404996, 405036, 405710, 405895, 406299, 406347, 406421 et 408359, Koenig et a.
  • 5.
    D. n° 2016-1481, 2 nov. 2016, relatif à l’utilisation des téléprocédures devant le Conseil d’État, les cours administratives d’appel et les tribunaux administratifs.
  • 6.
    L. n° 2016-1547, 18 nov. 2016, de modernisation de la justice du XXIe siècle, art. 53 : JO n° 0269, 19 nov. 2016.
  • 7.
    L. const. n° 2008-724, 23 juill. 2008, de modernisation des institutions de la Ve République : JO n° 0171, 24 juill. 2008, texte n° 2, p. 11890.
  • 8.
    Constitution, 4 oct. 1958, art. 71-1 : « Le [DDD] veille au respect des droits et libertés par les administrations de l’État, les collectivités territoriales, les établissements publics, ainsi que par tout organisme investi d’une mission de service public, ou à l’égard duquel la loi organique lui attribue des compétences. Il peut être saisi, dans les conditions prévues par la loi organique, par toute personne s’estimant lésée par le fonctionnement d’un service public ou d’un organisme visé au premier alinéa. Il peut se saisir d’office. La loi organique définit les attributions et les modalités d’intervention du [DDD]. Elle détermine les conditions dans lesquelles il peut être assisté par un collège pour l’exercice de certaines de ses attributions. Le [DDD] est nommé par le président de la République pour un mandat de 6 ans non renouvelable, après application de la procédure prévue au dernier alinéa de l’article 13. Ses fonctions sont incompatibles avec celles de membre du gouvernement et de membre du Parlement. Les autres incompatibilités sont fixées par la loi organique. Le [DDD] rend compte de son activité au président de la République et au Parlement ».
  • 9.
    L. org. n° 2011-333, 29 mars 2011, relative au Défenseur des droits : JO n° 0075, 30 mars 2011, texte n° 1, p. 5497.
  • 10.
    « Le [DDD] peut recommander de procéder aux modifications législatives ou réglementaires qui lui apparaissent utiles. Il peut être consulté par le Premier ministre sur tout projet de loi intervenant dans son champ de compétence. Il peut également être consulté par le Premier ministre, le président de l’Assemblée nationale ou le président du Sénat sur toute question relevant de son champ de compétence. »
  • 11.
    L. n° 2016-1321, 7 oct. 2016, pour une République numérique : JO n° 0235, 8 oct. 2016, texte n° 1.
  • 12.
    Cons. const., 12 juin 2018, n° 2018-765 DC, loi relative à la protection des données personnelles : JO n° 0141, 21 juin 2018, texte n° 2.
  • 13.
    V. par ex. L. n° 83-634, 13 juill. 1983, portant droits et obligations des fonctionnaires, art. 6., mod. par L. n° 2017-86, 27 janv. 2017, relative à l’égalité et à la citoyenneté : JO n° 0024, 28 janv. 2017, texte n° 1.
  • 14.
    V. par ex. C. trav., art. L. 1132-1.
  • 15.
    C. pén., art. 225-1 : « Constitue une discrimination toute distinction opérée entre les personnes physiques sur le fondement de leur origine, de leur sexe, de leur situation de famille, de leur grossesse, de leur apparence physique, de la particulière vulnérabilité résultant de leur situation économique, apparente ou connue de son auteur, de leur patronyme, de leur lieu de résidence, de leur état de santé, de leur perte d’autonomie, de leur handicap, de leurs caractéristiques génétiques, de leurs mœurs, de leur orientation sexuelle, de leur identité de genre, de leur âge, de leurs opinions politiques, de leurs activités syndicales, de leur capacité à s’exprimer dans une langue autre que le français, de leur appartenance ou de leur non-appartenance, vraie ou supposée, à une ethnie, une Nation, une prétendue race ou une religion déterminée. Constitue également une discrimination toute distinction opérée entre les personnes morales sur le fondement de l’origine, du sexe, de la situation de famille, de la grossesse, de l’apparence physique, de la particulière vulnérabilité résultant de la situation économique, apparente ou connue de son auteur, du patronyme, du lieu de résidence, de l’état de santé, de la perte d’autonomie, du handicap, des caractéristiques génétiques, des mœurs, de l’orientation sexuelle, de l’identité de genre, de l’âge, des opinions politiques, des activités syndicales, de la capacité à s’exprimer dans une langue autre que le français, de l’appartenance ou de la non-appartenance, vraie ou supposée, à une ethnie, une Nation, une prétendue race ou une religion déterminée des membres ou de certains membres de ces personnes morales. »
  • 16.
    En vertu de l’article 27 de la loi organique de 2011, « lorsque le [DDD] estime, dans les conditions définies à l’article 24, que la réclamation d’une personne s’estimant victime d’une discrimination ou invoquant la protection des droits de l’enfant appelle une intervention de sa part, il l’assiste dans la constitution de son dossier et l’aide à identifier les procédures adaptées ».
X