PRÉSIDENCE DE M. Thani Mohamed Soilihi
vice-président
M. le président. Je suis saisi de trois amendements faisant l’objet d’une discussion commune.
L’amendement n° 98, présenté par le Gouvernement, est ainsi libellé :
Alinéa 8
Supprimer cet alinéa.
La parole est à M. le secrétaire d’État.
M. Mounir Mahjoubi, secrétaire d’État. Le présent amendement vise à supprimer l’alinéa 8 de l’article 14, qui prévoit la nullité des décisions administratives individuelles prises sur le fondement d’un traitement algorithmique qui ne comporteraient pas la mention prévue à l’article L. 311-3-1 du code des relations entre le public et l’administration.
Si le Gouvernement souscrit pleinement, je le répète, à l’objectif de faire appliquer l’article L. 311-3-1 du code des relations entre le public et l’administration, il n’est pas favorable à ce que l’absence de cette mention dans la décision conduise immédiatement à la nullité de cette dernière. Ce serait, selon nous, tout à fait disproportionné.
D’une part, il semble au Gouvernement que ce point doit être laissé à l’appréciation du juge administratif, la jurisprudence Danthony, en la matière, n’étant pas univoque.
D’autre part, le Gouvernement observe qu’il n’existe aucun précédent de ce type en matière d’obligations d’éditique. En effet, aujourd’hui, l’autre mention devant obligatoirement figurer dans les décisions administratives concerne les voies et délais de recours. L’absence de cette mention entraîne non pas la nullité des décisions, mais la simple non-opposabilité des délais de recours. La décision reste valide.
Concrètement, que signifierait, pour les Français, la nullité de la décision dans des cas très pratiques ? Si mon avis d’imposition ne comporte pas la mention en question, puis-je refuser de payer l’impôt ? Quelles seraient les conséquences de son absence dans un avis d’attribution du RSA ?
Je le redis simplement pour que la position du Gouvernement soit bien comprise : la mention est bien obligatoire et prévue par le droit existant ; nous faisons et ferons respecter cette obligation.
M. le président. L’amendement n° 145, présenté par Mme M. Carrère, est ainsi libellé :
Alinéa 8
Remplacer cet alinéa par trois alinéas ainsi rédigés :
II. – Le premier alinéa de l’article L. 311-3-1 du code des relations entre le public et l’administration est ainsi modifié :
1° À la première phrase, après le mot : « comporte », sont insérés les mots : « , à peine de nullité, » ;
2° À la seconde phrase, les mots : « communiquées par l’administration à l’intéressé s’il en fait la demande » sont remplacés par les mots : « publiées, ainsi que les modifications ultérieures relatives à ces règles ou caractéristiques ».
La parole est à Mme Maryse Carrère.
Mme Maryse Carrère. Nous avons tous conscience des gains administratifs à tirer de l’utilisation des nouveaux outils technologiques, tels les algorithmes. Lors de l’examen de la loi pour une République numérique, le groupe du RDSE avait cependant déjà pointé les limites de l’utilisation des algorithmes en termes de transparence des décisions individuelles prises sur ce fondement. Mes collègues avaient alors proposé et obtenu que les caractéristiques de ces algorithmes puissent être communiquées aux personnes intéressées qui en feraient la demande.
Comme l’a souligné l’Office parlementaire d’évaluation des choix scientifiques et technologiques, c’est moins le logiciel d’admission post-bac que les dispositions juridiques et les choix politiques sur le fondement desquels il a été programmé qui ont conduit au bug largement commenté.
Beaucoup considèrent que la réticence des ministères à communiquer les codes sources de tels algorithmes contribue à alimenter les suspicions à leur encontre. En cas de généralisation de traitements automatisés similaires, il est à craindre que les fondements effectifs des décisions administratives ne deviennent moins accessibles et moins intelligibles si ces codes sources ne sont pas communiqués.
Nous souhaitons donc que ces caractéristiques techniques soient systématiquement publiées, afin que chacun puisse prendre connaissance des critères effectivement retenus pour l’élaboration des décisions individuelles. Dès lors que ces algorithmes n’ont pas vocation à se substituer totalement à l’appréciation des agents administratifs chargés de préparer les décisions, il n’y a pas de raison de s’opposer à la libre communication de leurs codes sources. À l’heure de la transparence, il serait invraisemblable de maintenir l’opacité sur ce point !
M. Pierre Ouzoulias. Tout à fait !
Mme Esther Benbassa. Bravo !
M. le président. L’amendement n° 134 rectifié, présenté par MM. Durain et Sutour, Mme S. Robert, MM. Sueur, Kanner et les membres du groupe socialiste et républicain, est ainsi libellé :
Après l’alinéa 8
Insérer un paragraphe ainsi rédigé :
… - À la seconde phrase du premier alinéa de l’article L. 311-3-1 du code des relations entre le public et l’administration, les mots : « à l’intéressé s’il en fait la demande », sont remplacés par les mots : « aux intéressés ».
La parole est à M. Jérôme Durain.
M. Jérôme Durain. Le présent amendement s’inscrit dans le droit fil de l’amendement présenté par notre collègue Maryse Carrère.
Dans sa rédaction actuelle, l’article L. 311-3-1 du code des relations entre le public et l’administration prévoit que l’administration communique les informations concernant le fonctionnement de l’algorithme à l’intéressé, s’il en fait la demande.
Nous proposons d’inverser le principe : dès lors que les algorithmes sont partout et qu’ils seront encore plus présents dans les années à venir, il faut que la communication de ces informations se fasse de manière systématique et que l’intéressé n’ait plus à en faire la demande. Tel est l’objet de cet amendement, dont l’adoption permettrait d’assurer l’information des administrés sur le degré et le mode de contribution du traitement algorithmique à la prise de décision, la nature des données traitées et leurs sources, les paramètres de traitement et, éventuellement, leur pondération. Les modalités d’application de cet article seraient fixées par décret en Conseil d’État.
M. le président. Quel est l’avis de la commission ?
Mme Sophie Joissains, rapporteur. La commission est défavorable à l’amendement n° 98. À quoi cela sert-il de créer ou de déclarer des droits si le citoyen n’en est pas informé et si, finalement, ces droits restent lettre morte ?
La loi pour une République numérique, qui a été promulguée en octobre 2016, a prévu que les décisions individuelles fondées sur un traitement algorithmique devraient comporter une mention en ce sens.
Mme Sophie Joissains, rapporteur. L’administration doit appliquer la loi, tout simplement.
Dans la pratique, monsieur le secrétaire d’État, cela imposera simplement à l’administration d’envoyer, pour la même décision, le même courrier, mais comportant la mention. Il n’est pas forcément mauvais de sonner l’alarme de temps à autre…
L’amendement n° 145 de Maryse Carrère nous semble quant à lui satisfait. La commission s’en remettra toutefois à la sagesse du Sénat et, à titre personnel, je le voterai. Il en va de même pour l’amendement n° 134 rectifié.
M. le président. Quel est l’avis du Gouvernement ?
M. Mounir Mahjoubi, secrétaire d’État. Le Gouvernement est défavorable à l’amendement n° 134 rectifié, un bon équilibre ayant été trouvé en matière d’information sur les algorithmes.
En premier lieu, les administrations sont soumises à une obligation générale de publier en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions, lorsqu’ils fondent des décisions individuelles. C’est donc là un premier niveau d’information a priori pour tous les usagers et à tout moment. Cette obligation sera généralisée à compter du mois d’octobre 2018.
En deuxième lieu, une information systématique est délivrée à toute personne concernée par une décision administrative individuelle. La personne est informée à chaque fois de la mise en œuvre d’un traitement algorithmique par une mention bien visible dans la décision.
Mme Sophie Joissains, rapporteur. Cette obligation n’est pas respectée !
M. Mounir Mahjoubi, secrétaire d’État. Nous ne nous opposons, madame la rapporteur, que sur la conséquence de l’absence de cette mention ; celle-ci est obligatoire. C’est d’ailleurs l’une des administrations que je dirige qui est chargée de faire respecter cette obligation : elle l’est déjà et elle le sera de plus en plus à l’avenir. En tout état de cause, la nullité de la décision en cas d’absence de cette mention est une sanction qui nous paraît disproportionnée.
La mention en question précise la finalité de l’algorithme et rappelle le droit de la personne concernée d’obtenir communication des règles du traitement et de leur application dans son cas particulier, ainsi que des modalités d’exercice de son droit à la communication et à la saisine.
En troisième lieu, si la personne en fait la demande, elle obtient beaucoup plus d’informations. Celles-ci, qui sont précisées au niveau réglementaire, sont au nombre de quatre : le degré et le mode de contribution du traitement algorithmique à la prise de décision ; les données traitées et leurs sources ; les paramètres de traitement et, le cas échéant, leur pondération appliquée à la situation de l’intéressé ; les opérations effectuées par le traitement.
Cette information est individualisée, très détaillée. Elle comprend l’intégralité des données ayant servi à faire fonctionner l’algorithme. Toutes ces caractéristiques font l’intérêt du dispositif, mais elles expliquent aussi que celui-ci ne soit pas, pour l’heure, automatisable ou généralisable. Elles imposent un traitement au cas par cas, ce qui représente une charge réelle pour les services. Aujourd’hui, ce sont bien des êtres humains, des agents publics qui prennent le temps de faire des réponses personnalisées, en réunissant toutes les informations.
S’il fallait informer systématiquement les personnes, comme le prévoit l’amendement n° 134 rectifié, il faudrait mettre en place un mécanisme automatisé, ce qui aurait pour conséquence une dégradation du niveau d’information.
Il existe aujourd’hui, à mon sens, un bon équilibre entre des vecteurs d’information systématique et la possibilité d’obtenir sur demande des informations beaucoup plus détaillées, par exemple lorsque la décision est défavorable ou en cas de questionnement sur ses motivations. La garantie de transparence doit notamment être considérée en lien avec les garanties liées au recours prévues dans le considérant 71 du règlement européen.
Enfin, les codes sources des algorithmes ayant des conséquences sociales, sanitaires ou économiques seront également mis à la disposition du public, ce qui permettra une complète redevabilité de l’administration, puisque des personnes, y compris des experts de la société civile, pourront les analyser en détail, voire rejouer des situations ou des scénarios, et vérifier que la procédure s’est correctement déroulée.
Concernant l’amendement n° 145, j’ai déjà évoqué la question de la nullité en cas d’absence de mention. Pour le reste, cet amendement est très largement, voire complètement, satisfait par le droit actuel. En effet, en vertu de l’article L. 312-1-3 du code des relations entre le public et l’administration, les administrations devront, à compter du mois d’octobre 2018, publier en ligne, de façon accessible au grand public, toutes les règles définissant les principaux traitements algorithmiques utilisés.
Le Gouvernement est défavorable à l’amendement n° 145.
M. le président. La parole est à M. Pierre Ouzoulias, pour explication de vote.
M. Pierre Ouzoulias. Monsieur le secrétaire d’État, j’aimerais être sûr d’avoir parfaitement compris votre analyse… J’ai en tout cas le sentiment qu’elle répond à l’une des interrogations que nous avons soulevées à l’instant.
Revenons sur la mise en œuvre de la loi relative à l’orientation et à la réussite des étudiants. Parcoursup est soumis au contrôle que vous venez d’évoquer. Les dossiers adressés aux universités sont traités par des algorithmes locaux, qui réalisent un pré-tri automatisé. Ensuite, ils sont transmis aux jurys, qui prennent une décision sur le fondement d’un examen pédagogique. Pouvez-vous me confirmer, monsieur le secrétaire d’État, que les algorithmes locaux mis au point par les universités seront eux aussi soumis aux règles posées à l’article 14 ?
M. Mounir Mahjoubi, secrétaire d’État. Oui ! Je défendrai d’ailleurs cette position en présentant l’amendement n° 99 du Gouvernement.
M. Pierre Ouzoulias. Cette réponse vous engage, monsieur le secrétaire d’État !
M. le président. La parole est à Mme Nathalie Goulet, pour explication de vote.
Mme Nathalie Goulet. Je soutiens Mme la rapporteur sur le sujet, car une grande confiance n’exclut pas une petite méfiance ! (Sourires.)
M. Philippe Bas, président de la commission des lois. C’est un proverbe normand ! (Nouveaux sourires.)
Mme Nathalie Goulet. En effet !
Monsieur le secrétaire d’État, pour votre part, vous connaissez tout cela par cœur, mais, il n’y a pas si longtemps, quand le ministre de la défense parlait d’algorithmes et qu’on lui demandait des détails, on s’apercevait qu’il n’avait peut-être pas tout compris, non plus que nous, d’ailleurs ! Peut-être serez-vous demain au banc du Gouvernement pour l’examen du projet de loi portant transposition de la directive concernant les services de paiement dans le marché intérieur : il faudrait en prévoir une version « pour les nuls », afin que nous puissions comprendre de quoi il s’agit, tant ce texte est abscons !
Il serait bon que vous puissiez nous exposer comment l’administration s’y prendra pour expliquer en détail à nos concitoyens la procédure et le fonctionnement des algorithmes, et quels éléments elle produira à cette fin.
M. Jérôme Durain. Tout à fait !
Mme Nathalie Goulet. Je pense en particulier à l’exemple, figurant dans l’excellent rapport de notre commission, d’un établissement de crédit souhaitant confier à un automate le soin d’évaluer la solvabilité des emprunteurs…
Je doute non pas de la qualité de ces explications, mais de leur compréhension par le citoyen lambda. La procédure est somme toute un peu nouvelle et elle recourt à des processus parfois totalement étrangers aux contribuables, aux demandeurs d’un crédit et, plus encore, aux étudiants confrontés à Parcoursup.
Plus les garanties inscrites dans la loi seront nombreuses, plus les sanctions seront importantes, mieux cela vaudra. Ainsi, la nullité de la décision en l’absence de mention obligera l’administration à se montrer intelligible.
M. le président. La parole est à M. Arnaud de Belenet, pour explication de vote.
M. Arnaud de Belenet. J’entends les doutes qui s’expriment sur ce sujet très technique, mais aussi les explications d’un secrétaire d’État qui, à la différence du ministre des armées évoqué à l’instant,…
Mme Nathalie Goulet. … connaît son sujet !
M. Arnaud de Belenet.… est un expert de ce domaine. Ses explications sont pragmatiques, claires et presque intelligibles pour les non-initiés ! (Sourires.)
M. Jérôme Durain. « Presque »…
M. Arnaud de Belenet. Je parle à titre personnel !
En tout état de cause, je suis pour ma part plutôt enclin à lui faire confiance. Peut-être cette inclination n’est-elle pas pleinement partagée dans l’hémicycle,…
Mme Esther Benbassa. Non, pas vraiment !
M. Arnaud de Belenet. … auquel cas il me semblerait intéressant d’examiner la manière dont ceux qui sont directement concernés vivent les choses.
À cet égard, la Conférence des présidents d’université confirme en pratique ce que nous dit le secrétaire d’État, puisqu’elle attend de nous que nous adoptions l’amendement n° 99, qui viendra en discussion dans un instant. Mme Morin-Desailly pourrait nous le confirmer. Dans ces conditions, pourquoi prendre le risque indiqué par M. le secrétaire d’État ?
M. le président. La parole est à M. Jérôme Durain, pour explication de vote.
M. Jérôme Durain. L’inclination de M. de Belenet est finalement assez logique. Pour ma part, j’ai trouvé l’argumentation de M. le secrétaire d’État non pas « presque », mais tout à fait intelligible, très solide et très argumentée.
Ce qui m’inquiète tout de même, en dernière analyse, c’est que, en guise de réponse à notre demande que les administrés bénéficient d’une information systématique, il décrive un parcours du combattant extrêmement ardu et escarpé, avec plusieurs niveaux de recours, pour obtenir communication de l’ensemble des éléments utiles et nécessaires. Il y a un monde entre ce que nous demandons et ce que vous exposez !
Enfin, vous opposez à notre demande d’une information systématique, qui relève d’une position de principe, un argument de moyens : ce n’est pas possible parce que cela représenterait trop de travail.
Pour ces raisons, je maintiens mon amendement, conservant une petite méfiance, pour reprendre le proverbe normand cité par notre collègue Nathalie Goulet…
M. le président. En conséquence, l’amendement n° 134 rectifié n’a plus d’objet.
L’amendement n° 99, présenté par le Gouvernement, est ainsi libellé :
Alinéa 9
Supprimer cet alinéa
La parole est à M. le secrétaire d’État.
M. Mounir Mahjoubi, secrétaire d’État. Si vous me le permettez, monsieur le président, je prendrai un peu de temps pour présenter de manière précise et complète cet amendement, d’une particulière importance.
Il a pour objet de rétablir une disposition de la loi du 8 mars 2018 relative à l’orientation et à la réussite des étudiants qui a été supprimée par la commission des lois.
Avant toute chose, je rappelle que cette loi est entrée en vigueur il y a tout juste deux semaines, après avoir été adoptée par le Sénat en février dernier. Que l’on envisage de modifier le droit applicable à ce stade de la procédure Parcoursup suscite déjà une très vive inquiétude dans les établissements d’enseignement supérieur, lesquels devront entamer l’examen des vœux de plusieurs millions de lycéens dans une dizaine de jours.
À la lumière de l’article 14 du présent projet de loi, la commission des lois du Sénat considère que cette disposition qui protège le secret des délibérations des équipes pédagogiques chargées de l’examen des candidatures ouvrirait la voie à une généralisation du traitement algorithmique pour produire les décisions d’affectation sans aucune intervention humaine.
Dans un souci de clarté et de précision, je voudrais rappeler quelle vision et quelle philosophie ont guidé le Gouvernement tout au long de la refondation de l’accès au premier cycle universitaire.
Pour mettre un terme à l’opacité qui entourait le fonctionnement de la plateforme APB, opacité que nous avons nous-mêmes dénoncée dès notre arrivée au pouvoir, le Gouvernement a articulé la procédure d’inscription en licence autour de deux exigences fondamentales : remettre de l’humain dans la procédure d’affectation en écartant toute prise de décision sur le seul fondement d’un algorithme ; garantir la transparence de la procédure d’affectation, tant au niveau national qu’au niveau local. Tels sont les deux piliers de notre projet.
Les nouvelles dispositions de l’article L. 612-3 du code de l’éducation issues de la loi relative à l’orientation et à la réussite des étudiants garantissent la transparence, qu’il s’agisse du fonctionnement de la plateforme Parcoursup en général ou de la procédure de traitement des dossiers de candidature dans les établissements. Les critères d’examen des vœux sont publics. La loi instaure un critère général, celui de la cohérence entre le profil du candidat et les caractéristiques des formations demandées.
Conformément aux alinéas 2 et 3 du I de l’article du code de l’éducation précité, toutes les informations relatives aux éléments pris en compte pour l’examen des dossiers au titre des 13 000 formations inscrites dans Parcoursup sont mises à la disposition des lycéens sur la plateforme.
Les critères d’examen ne sont pas les seuls éléments rendus publics. Le II de l’article prévoit que la transparence s’applique également aux traitements automatisés, ainsi qu’au code source de l’outil d’aide à la décision proposé aux formations par le ministère pour les assister dans l’examen des vœux. En d’autres termes, il n’y a pas de « boîte noire » : le principe de transparence vaut pour les critères, les traitements, le code source de l’algorithme national et celui de l’outil d’aide aux établissements.
Ce n’est pas fini ! J’ai rappelé que l’obligation d’une intervention humaine constituait le premier pilier de la loi relative à l’orientation et à la réussite des étudiants. Dans les établissements, les équipes pédagogiques devront suivre une procédure d’examen des vœux qui exclut toute prise de décision automatisée. C’est pourquoi vous me permettrez, monsieur Ouzoulias, de nuancer la présentation que vous avez pu faire de la procédure telle qu’elle se déroule aujourd’hui dans les établissements.
Le décret d’application de la loi instaure, pour chaque formation, une commission d’examen des vœux, principalement composée d’enseignants chargés d’examiner et de classer les dossiers. Comme son nom l’indique, l’outil d’aide à la décision, dont le code source sera donc publié, n’est qu’un appui proposé à la commission d’examen. Celle-ci peut décider de ne pas l’utiliser du tout ; certaines de ces commissions ont d’ailleurs fait ce choix. Si la commission d’examen souhaite utiliser cet outil, elle doit le paramétrer en fonction des éléments d’appréciation pédagogique qu’elle seule peut déterminer, en superviser le fonctionnement et en valider le résultat. Il s’agit bien d’un outil à la main de la commission d’examen. Ce paramétrage consiste, pour l’essentiel, à préciser, à hiérarchiser et à pondérer les critères qui ont été portés à la connaissance des candidats sur la plateforme Parcoursup.
Seule la commission d’examen des vœux est compétente pour décider des réponses qui seront faites aux candidats. Ainsi, la manière dont l’outil d’aide à la décision est utilisé est indissociable de la délibération elle-même, mais ne s’y substitue pas. Le module en lui-même ne peut fonder la décision de l’établissement. Celle-ci ne peut découler que des délibérations de la commission, qui doit examiner chaque dossier individuel : c’est l’esprit même de tout le projet. C’est d’ailleurs pour garantir que les établissements pourront procéder à l’évaluation de chacun des dossiers que le Gouvernement a mobilisé, en leur faveur, une aide spéciale de près de 10 millions d’euros.
M. Pierre Ouzoulias. On nous avait parlé de 6 millions d’euros, mais bon, si vous le dites…
Mme Esther Benbassa. Le chiffre change tout le temps !
Mme Esther Benbassa. Très bien !
Mme Sophie Joissains, rapporteur. L’amendement de la commission aura fait beaucoup de bien, finalement…
M. Mounir Mahjoubi, secrétaire d’État. Enfin, la disposition que nous souhaitons rétablir permet d’ancrer le rôle des équipes pédagogiques dans la loi et de protéger le contenu de leurs délibérations. Concrètement, il s’agit de garantir à chaque candidat un accès individuel aux éléments et motifs qui justifient la décision prise par l’établissement.
Jusqu’à présent, la loi de 1979 relative à la motivation des actes administratifs n’imposait pas aux équipes pédagogiques de motiver leurs notes et leurs décisions. La disposition adoptée en février dernier par le Sénat est donc une avancée majeure en faveur de la transparence.
Elle permet à chaque étudiant, à titre individuel, d’obtenir tous les éléments qui ont justifié localement la décision de l’établissement. Cette transparence va jusqu’au rang assigné au candidat par la commission d’examen, et même jusqu’au niveau de l’appréciation portée par elle sur chacun des critères utilisés pour l’évaluation des dossiers.
L’application des dispositions de droit commun conduirait à rendre publics tous les éléments d’appréciation retenus par les équipes pédagogiques, lesquels sont couverts par le principe du secret des délibérations, conformément à la jurisprudence du Conseil d’État. Une telle remise en cause serait excessive : elle priverait de protection les délibérations des équipes pédagogiques, lesquelles, par crainte de recours contentieux, seraient amenées soit à renoncer au module d’aide à la décision, soit à y recourir, mais de façon mécanique, sans l’orienter dans le sens d’une véritable démarche pédagogique. Seul le rétablissement de la disposition en question permettra d’assurer l’équilibre entre la souveraineté de la commission et l’utilisation d’outils modernes d’aide à la décision.
En vue de parer à d’éventuelles dérives, la loi du 8 mars 2018 relative à l’orientation et à la réussite des étudiants a par ailleurs institué un comité d’éthique et scientifique qui a vocation à prévenir ce type de risques et à garantir une intervention humaine systématique dans le traitement des dossiers, ainsi qu’un haut niveau de protection des candidats. Le Sénat a consacré l’existence de ce comité dans la loi, de manière à lui conférer pérennité et indépendance.
Frédérique Vidal, ministre de l’enseignement supérieur, de la recherche et de l’innovation, se tient à votre disposition et à celle des commissions des lois et de la culture pour rendre compte du traitement des vœux.
Je propose au Sénat de rétablir cette disposition en adoptant l’amendement du Gouvernement. J’espère que ma présentation de celui-ci, que nous avons voulu aussi précise et complète que possible, aura pu vous convaincre ; l’ensemble du Gouvernement y a travaillé !
M. Philippe Bas, président de la commission des lois. Merci !
M. le président. Quel est l’avis de la commission ?
Mme Sophie Joissains, rapporteur. Je voudrais d’abord dire que, si le dépôt de cet amendement a permis le déblocage de 10 millions d’euros au bénéfice des établissements d’enseignement supérieur, nous en sommes déjà très heureux ! (Sourires.)
M. Pierre Ouzoulias. Oui !
Mme Esther Benbassa. C’est déjà pas mal !