B. LA PERSPECTIVE D'UN DÉVELOPPEMENT DES OUTILS D'INTELLIGENCE ARTIFICIELLE INSUFFISANT
1. Un développement bienvenu des instruments d'intelligence artificielle tempéré par un reflux important des investissements en la matière
Nombreuses sont les institutions qui, à raison, s'acheminent vers davantage d'outils d'intelligence artificielle. Compte tenu des gains potentiels liés aux dispositifs d'intelligence artificielle et de la rapidité avec laquelle ils se développent, il semble pertinent de leur consacrer une part significative des investissements qui seront réalisés dans les années à venir. Le rapporteur tient à réaffirmer la nécessité de ne pas prendre de retard dans ce domaine, craignant que ce retard engendre à l'avenir une « dette technologique » liée au décrochage technologique que connaîtrait l'administration française.
D'ores et déjà, des autorités telles que la Cnil s'emploient à moderniser leurs outils informatiques et à recourir à l'intelligence artificielle pour améliorer leurs performances. À ce titre, peuvent être cités des projets ambitieux comme la participation au projet de classification des amendements, développé par la DGFiP, permettant de résumer les amendements.
La Dila a de son côté mené plusieurs projets en matière d'intelligence artificielle générative. Parmi les principaux projets figurent :
· le projet « THEIA » qui vise à automatiser la pose de liens de citation (références législatives, réglementaires, etc.) dans les textes publiés au Journal officiel et ainsi augmenter le nombre de textes consolidés ;
· le développement d'un agent conversationnel sur l'information administrative pour lequel la phrase d'expérimentation a abouti, en janvier 2024, avec des premiers résultats encourageants. Il a été décidé, dans un premier temps, de mettre à disposition cet outil exclusivement aux agents de la Dila. Un responsable « intelligence artificielle » a été recruté pour renforcer l'équipe interne et mettre en oeuvre le plan d'extension à de nouveaux cas d'usage.
La Dinum a également manifesté son intention d'amplifier ses travaux en matière d'intelligence artificielle au service de l'action publique par l'octroi de 3 millions d'euros supplémentaires en 2025. Dans ce cadre, les financements de la Dinum sont complétés par le fonds pour la transformation de l'action publique (FTAP) à hauteur de 6,5 millions d'euros. Toutefois, les crédits alloués à la Dinum en matière d'intelligence artificielle apparaissent insuffisants pour que l'ensemble des projets et des missions soient menés pleinement et efficacement. À budget constant, le rythme des chantiers en cours va vraisemblablement ralentir. Une démarche de recherche de financements au niveau européen est en cours pour soutenir les projets en manque de moyens mais rien ne garantit que celle-ci s'avère fructueuse.
En ce qui concerne la Cnil, le rapport du Sénat relatif à la proposition de législation européenne sur l'intelligence artificielle du 30 mars 20238(*) souligne que, pour remplir efficacement ses nouvelles missions de surveillance des systèmes d'intelligence artificielle, la Cnil devrait bénéficier d'un renforcement progressif de ses ressources humaines, impliquant notamment le recrutement d'ingénieurs spécialisés en intelligence artificielle et de juristes en droit des nouvelles technologies. Le rapporteur s'associe à cette recommandation et réaffirme l'opportunité d'un renforcement dès 2025 des moyens de la Cnil consacrés à l'intelligence artificielle, que ce soit en termes d'emplois (+ 8 ETP) ou de crédits demandés (+ 0,45 million d'euros).
Malgré les efforts, les moyens budgétaires actuels de la Cnil lui permettent à peine de maintenir à niveau ses activités historiques de protection des données personnelles, toutes en forte croissance du fait des besoins de la population.
2. Un développement de l'intelligence artificielle encadré par le souci constant du respect de la protection des données personnelles
Le poids des algorithmes devient crucial dans les traitements de données à caractère personnel et les risques associés à un dispositif d'intelligence artificielle sont proportionnels à la sensibilité des données utilisées. Pour répondre à ce besoin, un service de l'intelligence artificielle a été créé en 2023 au sein de la direction des technologies et de l'innovation à la Cnil et est actuellement doté de cinq emplois.
À l'issue d'une consultation publique, la Cnil a publié le 8 avril 2024 ses premières recommandations sur le développement des systèmes d'intelligence artificielle, impliquant un traitement de données personnelles, notamment dans les administrations publiques. Ces orientations doivent aider les professionnels à concilier innovation et respect des droits des personnes pour le développement innovant et responsable de leurs systèmes d'intelligence artificielle.
La Cnil agit résolument pour que les acteurs intègrent la protection des données par défaut, via l'organisation de consultations publiques, l'édiction d'actes de droit souple ou encore la création de tables doctrinales.
Par ailleurs, de nouvelles législations européennes sur le numérique sont apparues afin de mieux protéger les citoyens européens grâce à une innovation fondée sur une meilleure utilisation de la donnée. Ces textes - RGN (règlement sur la gouvernance des données)9(*), RD (règlement sur les données)10(*), RSA (règlement sur l'intelligence artificielle)11(*), RSN (règlement sur les services numériques)12(*) et RMN (règlement sur les marchés numériques)13(*) - viennent établir un nouveau cadre de gouvernance de la donnée, attribuant de nouvelles compétences aux régulateurs existants. La mise en oeuvre de ces textes, qui incombe à différents régulateurs avec des chevauchements fréquents, implique une inter-régulation et une coopération entre les régulateurs compétents. La loi du 21 mai 2024 visant à sécuriser et réguler l'espace numérique (SREN) vient à ce titre étendre le champ de compétences de la Cnil lui attribuant le pouvoir de saisir tout document sous le contrôle du juge ou la possibilité d'enregistrer les réponses des personnes auditionnées. Une application effective de ces textes nécessite une articulation efficace entre les régulateurs de l'espace numérique (Cnil, Arcom, Arcep, DGCCRF, etc.). À l'occasion de son audition, la Cnil a indiqué s'inscrire pleinement dans cette collaboration, déjà mise en oeuvre sur de nombreux aspects et qui a vocation à s'intensifier.
Aussi, afin de mener ses nouvelles missions, la Cnil dispose d'un pouvoir de contrôle lui permettant d'obtenir communication de tout document nécessaire, sans que le secret ne puisse lui être opposé.
Un respect
scrupuleux de l'obligation de transposition des directives,
malgré un
réajustement ponctuel en 2024
Le Secrétariat général des affaires européennes (SGAE) veille au respect de l'obligation de transposition des directives européennes par les ministères et les appuie dans leurs travaux.
L'objectif de déficit de transposition des directives européennes a été fixé par le Conseil européen de Bruxelles de 2007 à 1 %. Dans ses conclusions, le Conseil rappelle qu'il convient d'accorder systématiquement un degré de priorité élevé à la transposition complète, cohérente et en temps utile des dispositions de cette directive. Les autorités françaises accordent une attention particulière à la transposition ponctuelle, effective, complète et fidèle des directives comme en témoigne la mobilisation des départements ministériels, sous l'égide du SGAE et du Secrétariat général du Gouvernement (SGG). À cet égard, la France se place en 2023 au premier rang avec 0,1 % de déficit de transposition pour une moyenne des membres de l'Union européenne à 0,9 % et atteint très régulièrement le seuil de 0,5 % de déficit.
La cible sera respectée pour l'année 2024 malgré une probable dégradation des résultats de transposition autour de 0,8 %. Cette dégradation s'explique principalement par le contexte politique de l'été 2024 et le décalage de l'examen des projets de loi.
Le SGAE et le SGG coopèrent étroitement dans le suivi de la mise en oeuvre du droit de l'Union européenne en France notamment dans le cadre des travaux du groupe à haut niveau (GHN). La circulaire du 22 mars 2024 relative à la mise en oeuvre du droit de l'Union européenne prévoit l'organisation de quatre GHN par an. À l'issue des auditions réalisées auprès de ces deux services, le rapporteur tient à mettre en exergue la fluidité des relations entre ces services dont les effets se font ressentir positivement en matière de transposition.
Le SGAE signale toutefois que le délai standard compris entre 18 et 24 mois, n'est pas toujours suffisant, notamment pour les textes les plus denses en mesures de transposition. Il apparaît dès lors souhaitable que les autorités françaises fassent preuve de vigilance lors des négociations et qu'elles commencent le travail de mise en oeuvre du droit européen dès qu'intervient l'accord politique entre les colégislateurs.
Source : Tableau de bord de la commission européenne
* 8 Rapport d'information relatif à la proposition de législation européenne sur l'intelligence artificielle fait par André Gattolin, Catherine Morin-Desailly, Cyril Pellevat et Elsa Schalck au nom de la commission des affaires européennes.
* 9 Également connu sous le nom de DGA (Data Governance Act).
* 10 Également connu sous le nom de DA (Data Act).
* 11 Également connu sous le nom de AIA (Artificial Intelligence Act).
* 12 Également connu sous le nom de DSA (Digital Services Act).
* 13 Également connu sous le nom de DMA (Digital Markets Act).