B. UNE POLITIQUE D'INTELLIGENCE ARTIFICIELLE ENCORE EN DEÇÀ DES BESOINS STRATÉGIQUES, MALGRÉ DES INITIATIVES STRUCTURANTES QU'IL FAUT DÉSORMAIS AMPLIFIER
1. Une dynamique qui peine à se concrétiser, comme en témoigne le faible volume d'investissements programmés, mettant en lumière un manque d'ambition
Si les crédits dédiés à la direction interministérielle du numérique (Dinum), qui conduit la stratégie de l'État en matière d'intelligence artificielle à travers son département Etalab, apparaissent peu satisfaisants au regard des enjeux, certains projets et actions présentées au rapporteur lors des auditions sont toutefois prometteurs.
À cet égard, le SGDSN est étroitement associé à la création le 3 février 2025 de l'Institut national de l'évaluation et de la sécurité de l'intelligence artificielle (Inesia) qui vise à fédérer un écosystème national en réunissant les capacités de recherche des acteurs français.
Depuis 2025, la Cada expérimente le recours à l'IA pour réduire les délais de traitement des demandes de conseil. L'outil en phase d'expérimentation propose des projets de réponses et facilite le tri des demandes nécessitant ou non un examen par le collège.
2. Un secteur de plus en plus encadré, mais dont la régulation risque d'être entravée par des ressources limitées, en particulier de la Cnil et de l'Arcom
L'année 2026 sera marquée par la poursuite de l'entrée en vigueur du règlement européen sur l'intelligence artificielle (RIA). Ce règlement vise à garantir que le développement et l'utilisation des produits et productions de l'IA respectent les droits fondamentaux et les valeurs européennes. L'Arcom devrait exercer des compétences nouvelles à ce titre en tant qu'autorité pressentie pour devenir autorité de surveillance du marché pour certains systèmes d'IA, notamment ceux destinés à interagir avec le public et sera chargée de la supervision des hypertrucages (deepfakes).
De son côté, la Cnil souligne la complémentarité forte entre le RIA et le RGPD. L'utilisation des données personnelles étant au coeur du fonctionnement de nombreuses IA, une articulation efficace entre la régulation de l'IA et l'application du RGPD est indispensable. Pour autant, la Cnil a alerté le rapporteur sur l'absence de moyens supplémentaires pour mener à bien ces missions, alors qu'elle avait évalué ses besoins à +15 ETP pour 2026. Pour assurer à la Cnil les moyens concrets de mettre en oeuvre le RIA, le rapporteur propose de relever ses effectifs de la Cnil de 10 ETP.
Les risques liés aux outils d'intelligence artificielle en matière d'accès aux droits, de protection des données et du processus démocratique
Le Défenseur des droits, initialement mobilisé sur les enjeux de discrimination algorithmique, constate désormais que l'usage des algorithmes et de l'intelligence artificielle touche l'ensemble de ses missions de protection des droits et libertés.
Selon lui, les biais algorithmiques sont rarement détectables au niveau individuel et une analyse globale est nécessaire.
Le Défenseur des droits a fourni un exemple d'une expérience en conditions réelles révélatrice de biais persistants.
Entre 2021 et 2023, trois associations ont diffusé des offres d'emploi neutres dans leur formulation. Les résultats ont mis en évidence un ciblage différencié selon le sexe : les annonces d'auxiliaires petite enfance et de secrétaires ont été proposées à 94 % et 92 % à des femmes alors que les offres de pilote ou de responsable d'infrastructure informatique ont été adressées respectivement à 85 % et 68 % à des hommes.
Le Défenseur des droits a rappelé que le ciblage doit s'accompagner de garanties minimisant les biais.
Il convient de s'assurer que les entités du programme soient dotées des moyens suffisants pour mener leurs missions et lutter efficacement contre les dérives et les menaces liées à l'avènement des instruments d'IA pour les Français.