B. UNE MÉTHODOLOGIE CLAIRE : LA VOIE EXPÉRIMENTALE DANS LE CADRE D'UNE LOI
Selon l'universitaire Caroline Lequesne-Roth que les rapporteurs ont entendue, « la protection des libertés publiques, en jeu dans le cadre de la mobilisation des outils de reconnaissance faciale, impose une intervention du législateur . L'exhaustivité (concernant notamment la finalité des usages et l'ouverture de recours) et la spécificité des garanties apportées conditionneront d'ailleurs la constitutionnalité du régime établi. Tel est également le sens de la jurisprudence européenne » 128 ( * ) .
Les rapporteurs sont favorables à l'élaboration d'une loi d'expérimentation permettant de créer le débat et de déterminer quels usages de la reconnaissance faciale sont pertinents avant de pérenniser, par une seconde loi, ceux d'entre eux qui le seraient. Cette méthode en trois étapes - expérimentation, évaluation puis éventuelle pérennisation - permettrait de rentrer dans le vif du sujet sans s'en tenir aux positions de principe.
Il s'agirait ni plus ni moins que de repenser le besoin au regard de la balance coûts/avantages , sans céder à la course en avant que semble faire naître la masse des données à analyser, compte tenu d'un recours de plus en plus fréquent à la vidéoprotection.
Cette phase d'expérimentation semble faire consensus . Le coordonnateur national pour l'intelligence artificielle, Renaud Vedel, a ainsi estimé qu'» une loi d'expérimentation pourrait, après avis de la CNIL, définir temporairement les conditions d'expérimentation et de déploiement progressif de ces outils. La clause de revoyure garantirait à la CNIL, au Conseil d'État et éventuellement au Parlement, qu'un débat démocratique global et exhaustif, éclairé par l'expérimentation, aurait lieu dans sur ces enjeux, après la phase de déploiement embryonnaire initial ». Les représentants du secrétariat général de la défense et la sécurité nationale (SGDSN) exposent que « le rôle de l'expérimentation est justement de fournir les éléments clefs de cette évaluation en matière opérationnelle, technique et juridique. L'apport de la reconnaissance faciale reste à évaluer en conditions opérationnelles , une solution mixte pouvant potentiellement présenter le meilleur compromis ». Le directeur général de la sécurité intérieure (DGSI) a pour sa part indiqué aux rapporteurs que « pour la reconnaissance de visages sur la voie publique, la mise en place d'un cadre expérimental apparaît pertinent tant pour tester et s'assurer de la performance technique des solutions envisagées que pour vérifier l'intérêt effectif des usages opérationnels envisagés . Il s'agirait, ce faisant, de vérifier les différentes hypothèses de travail formulées par les services opérationnels et de s'assurer que le cadre législatif finalement mis en place sera non seulement adapté d'un point de vue des nécessités opérationnelles, mais également sur le plan de la protection des libertés publiques et individuelles ».
Exemples de dispositions législatives
adoptées
à titre expérimental pour une durée
limitée
La technique permettant la mise en oeuvre sur les réseaux des opérateurs de communications électroniques d'un algorithme identifiant les indices d'une menace terroriste a été adoptée à titre expérimental, jusqu'au 31 décembre 2018, par la loi n° 2015-912 du 24 juillet 2015 relative au renseignement 129 ( * ) , puis jusqu'au 30 juin 2021 par la loi du 24 décembre 2020 130 ( * ) .
La loi SILT du 30 octobre 2017 131 ( * ) a permis à titre expérimental jusqu'au 31 décembre 2020 132 ( * ) , la mise en place d'un régime de contrôle administratif et de surveillance des personnes constituant une menace grave pour la sécurité et l'ordre publics (dont les mesures individuelles de contrôle administratif ou MICAS) et de visites domiciliaires et de saisies à des fins de prévention des actes de terrorisme (perquisitions administratives).
La technique permettant à l'administration fiscale et l'administration des douanes de collecter et exploiter au moyen de traitements informatisés et automatisés les contenus librement accessibles publiés sur Internet par les utilisateurs de plateformes en ligne afin de détecter les comportements frauduleux de contribuables a été autorisée à titre expérimental jusqu'au 30 décembre 2022 dans le cadre de la loi de finances pour 2020 133 ( * ) .
Enfin, plus récemment, l'interception des correspondances émises ou reçues par la voie satellitaire par les services spécialisés de renseignement a été adoptée à titre expérimental jusqu'au 31 juillet 2025 dans le cadre de la loi du 30 juillet 2021 relative à la prévention d'actes de terrorisme et au renseignement 134 ( * ) .
Source : Commission des lois du Sénat
L'expérimentation autorisée pendant une durée limitée obligerait le Gouvernement et le Parlement à réévaluer le besoin et recadrer éventuellement le dispositif en fonction des résultats obtenus. Philippe Bas, alors président de la commission des lois du Sénat, avait qualifié ce dispositif de « clause d'autodestruction » à propos des dispositions de la loi SILT dont les conséquences en termes de libertés publiques suscitaient aussi de nombreuses inquiétudes : « une évaluation annuelle nous renseignera sur leur utilité marginale. S'il s'avère que ces mesures sont inutiles, le Parlement n'aura pas à les reconduire » .
Une durée de trois ans semble une durée raisonnable pour tester et être en cohérence avec l'entrée en vigueur de la future législation européenne sur l'intelligence européenne.
Proposition n° 7 : Fixer dans une loi d'expérimentation, pour une période de trois ans, les conditions dans lesquelles et les finalités pour lesquelles la reconnaissance biométrique pourra faire l'objet de nouvelles expérimentations par les acteurs publics ou dans les espaces ouverts au public et prévoir la remise de rapports annuels détaillés au Parlement sur son application, dont le dernier au plus tard six mois avant la fin de la période d'expérimentation.
L'expérimentation envisagée par les rapporteurs doit être une véritable expérimentation qui concerne non seulement la technologie, mais également le cadre juridique mis en place . Il s'agirait d'une « démarche sincèrement expérimentale » selon les termes de la CNIL car « les expérimentations ne sauraient éthiquement avoir pour objet ou pour effet d'accoutumer les personnes à des techniques de surveillance intrusive, en ayant pour but plus ou moins explicite de préparer le terrain à un déploiement plus poussé » 135 ( * ) .
De ce fait, il est important de prévoir en même temps que l'expérimentation une évaluation publique et indépendante de l'efficacité de la technologie employée par un comité composé de scientifiques et de personnes qualifiées en matière d'éthique pour vérifier au cas par cas l'apport de la technologie de reconnaissance biométrique, sa proportionnalité, l'explicabilité de ses résultats, etc . Le comité pourrait également formuler toute proposition de nature à améliorer le respect des principes juridiques et éthiques qui fondent les expérimentations , veiller à la transparence du recours à cette technique auprès des personnes concernées, émettre un avis sur les évolutions souhaitables ou évaluer les choix techniques et l'efficacité du recours à la reconnaissance faciale. Ce dispositif exige que le comité soit informé de chaque expérimentation et que lui soient transmises les données nécessaires à sa mission d'évaluation.
Les rapporteurs souhaitent qu'un seul comité procède à l'évaluation de l'ensemble des expérimentations pour nourrir sa réflexion et bénéficier d'une vision globale.
Un tel comité existe par exemple depuis 2018 pour évaluer l'algorithme national Parcoursup 136 ( * ) . Ce comité est composé de six membres, choisis au regard de leur expertise et de leur expérience, notamment dans les domaines des sciences humaines, sociales et éthiques, mais également en sciences informatiques et algorithmiques. Il est actuellement présidé par l'ancienne présidente de la CNIL et actuelle présidente de l'Autorité nationale des jeux, Isabelle Falque-Pierrotin.
Les expérimentations menées par la DGSI à des fins de renseignement seraient en revanche exclues de ce dispositif d'évaluation publique , mais soumises au contrôle de la Commission nationale de contrôle des techniques de renseignement (CNCTR) dans le cadre habituel applicable aux techniques de renseignement (DPR), ainsi qu'au contrôle de la délégation parlementaire au renseignement qui a pour mission de contrôler l'action du Gouvernement en matière de renseignement et d'évaluer la politique publique en ce domaine.
Proposition n° 8 : Soumettre ces expérimentations à l'évaluation régulière d'un comité scientifique et éthique unique et indépendant dont les rapports seront rendus publics.
En accompagnement de cette phase d'expérimentation, il semble nécessaire de favoriser le débat dans la société française en informant les citoyens sur ce que sont les techniques de reconnaissance biométrique, les bénéfices attendus, en citant des exemples de situations concrètes, et les risques encourus, afin que chacun puisse comprendre quels sont les choix à opérer collectivement, en mettant en balance les différents droits et libertés à protéger. Il est important que les discussions sur la reconnaissance biométrique prennent en compte la complexité des enjeux et ne soient pas polarisées par le modèle chinois.
Cela permettrait également une réflexion sur les usages commerciaux de ces techniques qui se développent à bas bruit pour faciliter la vie quotidienne, en particulier chez les jeunes. Pour ces derniers, cette réflexion pourrait être menée dans le cadre de l'article L. 312-9 du code de l'éducation qui prévoit la dispense dans les établissements scolaires d'une « formation à l'utilisation responsable des outils et des ressources numériques ».
Proposition n° 9 : En accompagnement de ces expérimentations, apporter une information accessible à tous sur les techniques de reconnaissance biométrique, les bénéfices qui en sont attendus et les risques encourus afin de sensibiliser le public sur leurs enjeux.
* 128 Réponses de Caroline Lequesne-Roth au questionnaire des rapporteurs.
* 129 Loi n° 2015-912 du 24 juillet 2015 relative au renseignement .
* 130 Loi n° 2020-1671 du 24 décembre 2020 relative à la prorogation des chapitres VI à X du titre II du livre II et de l'article L. 851-3 du code de la sécurité intérieure.
* 131 Loi n° 2017-1510 du 30 octobre 2017 renforçant la sécurité intérieure et la lutte contre le terrorisme (article 5).
* 132 Puis jusqu'au 30 juin 2021 par la loi n° 2020-1671 du 24 décembre 2020.
* 133 Loi n° 2019-1479 du 28 décembre 2019 de finances pour 2020 (article 154).
* 134 Loi n° 2021-998 du 30 juillet 2021 relative à la prévention d'actes de terrorisme et au renseignement (article 13).
* 135 « Reconnaissance faciale : pour un débat à la hauteurs des enjeux », CNIL, 15 novembre 2019.
* 136 Voir le XI. de l'article L. 612-3 du code de l'éducation créé par la loi n° 2018-166 du 8 mars 2018 relative à l'orientation et à la réussite des étudiants .