COMPTES RENDUS DE LA COMMISSION DES AFFAIRES EUROPEENNES

- Présidence de Jean-François Rapin, président -

La réunion est ouverte à 13 h 30.

Audition de M. Thierry Breton

M. Jean-François Rapin, président. - Monsieur le Commissaire, Mes chers collègues, nous avons le plaisir d'accueillir Monsieur Thierry Breton, que je remercie d'avoir accepté d'intervenir devant notre commission des affaires européennes. Nous avions déjà eu le plaisir de vous recevoir l'an dernier, Monsieur le Commissaire, quand vous étiez commissaire européen chargé du marché intérieur. À ce poste, vous avez notamment consolidé la souveraineté de l'Europe en matière numérique, et l'on vous doit les textes de référence en la matière : le Digital Market Act (DMA), le Digital Services Act (DSA) régulant l'un les marchés, l'autre les services numériques, et l'AI Act (règlement sur l'intelligence artificielle).

Monsieur le Commissaire, nous avons assisté depuis quelques mois à un revirement assez étonnant aux États-Unis : les uns après les autres, les grands patrons de la « tech » américaine se sont rangés derrière le candidat puis le nouveau Président Donald Trump. Parmi eux, Elon Musk fait son entrée au Gouvernement, à la tête d'un ministère de l'efficacité gouvernementale. Depuis quelques semaines, avec la force de frappe de son réseau social X, il intervient sans retenue dans la campagne législative allemande, en appui à l'extrême-droite. Et quiconque ose le dénoncer, reçoit en retour une réponse agressive d'Elon Musk lui-même. Vous en avez vous-même fait les frais à plusieurs reprises au cours des dernières semaines.

Parmi les ralliés des derniers mois, figure aussi Mark Zuckerberg, qui avait pourtant suspendu pendant deux ans le compte Facebook de Donald Trump après l'invasion du Capitole en janvier 2021. Le 7 janvier dernier, le patron de Meta, tout en annonçant un allégement des règles de modération de contenus sur ce réseau, s'en est pris à l'Union européenne, accusée d'adopter « un nombre toujours croissant de lois institutionnalisant la censure » et de rendre « difficile la construction de quoi que ce soit d'innovant ».

Le ralliement des géants de la « Tech » américaine au Président Donald Trump met-il en péril, selon vous, l'arsenal juridique adopté lorsque vous étiez commissaire européen ? Suspectée de vouloir lever le pied sur les enquêtes ouvertes contre les plateformes américaines, la Commission européenne, sous la pression de certains États membres, a fini, le 17 janvier, par annoncer l'approfondissement de son enquête sur X.

Selon vous, cette réaction tardive traduit-il un manque de diligence de la Commission, ou est-il un signe de complaisance ?

Par ailleurs, estimez-vous que l'Union européenne et/ou ses États membres disposent d'outils juridiques suffisants pour se défendre contre les tentatives d'ingérence de réseaux comme X ou encore TikTok, qui a conduit à l'annulation de l'élection présidentielle roumaine en décembre dernier ?

Je vous remercie et vous cède maintenant la parole.

M. Thierry Breton. - Je vous remercie pour votre accueil, Mesdames et Messieurs les sénateurs. Quelques mots, d'abord, pour bien remettre en perspective ce que nous avons voulu faire avec mes équipes de la Commission européenne, car c'est le principal objet de votre interpellation. Le numérique, et plus généralement l'espace informationnel européen, étaient dans une situation particulière lorsque je suis arrivé à la Commission il y a cinq ans. Il n'y avait pas de marché numérique européen, mais vingt-sept marchés distincts, avec vingt-sept façons différentes de voir les choses.

L'une des principales raisons pour lesquelles nous avons manqué la première vague de la révolution numérique - c'est ma conviction - est liée à cette fragmentation. Cette première vague, qui s'est déroulée entre 2000 et 2020, concernait l'exploitation des données personnelles et la découverte de leur valeur économique. L'émergence de services comme Facebook, qui a su monétiser ces données, n'était pas, en soi, une prouesse technologique extraordinaire. Ils ont été d'ailleurs conçus à l'origine par des étudiants en première année d'université. Ce qui a fait la différence, c'est l'environnement : un marché américain unifié de 330 millions de consommateurs, une seule langue pour le marketing et une technologie déjà bien présente.

En Europe, nous n'étions pas préparés. L'économie de la donnée repose sur la connaissance des utilisateurs, ce qui permet d'aligner les services et de monétiser la publicité. L'évolution du marché publicitaire et l'émergence de nouvelles plateformes ont bouleversé l'économie numérique.

Aujourd'hui, nous faisons face à une deuxième vague, bien plus importante que la première. Elle concerne l'exploitation des données industrielles et professionnelles. L'enjeu est majeur, car il s'agit de savoir à qui appartiennent ces données : est-ce qu'elles appartiennent au constructeur automobile, au propriétaire du véhicule ou bien à l'assureur ? Ce sont des questions qu'il fallait traiter.

C'est pourquoi je me suis attaché à créer un véritable marché unique de la donnée, comme nous avons un marché unique des biens et services. Cela a conduit à un ensemble de régulations essentielles, parmi lesquelles :

- le règlement sur l'intelligence artificielle (AI Act), : pour encadrer la génération et l'utilisation des données dans l'espace public ;

- le règlement sur les données (Data Act), : qui définit qui peut utiliser les données et comment, afin de stimuler l'innovation en toute sécurité ;

- le Digital Markets Act (DMA), : qui établit des règles économiques pour limiter les effets d'éviction et les monopoles de fait ;

- le Digital Services Act (DSA), : qui adapte le cadre législatif aux réalités du numérique et régule l'amplification massive des contenus en ligne.

Ces textes ont été votés après d'intenses débats au Parlement européen et au Conseil. Moins de 10 % des députés européens s'y sont opposés. J'entends aujourd'hui certains qualifier le DSA de loi liberticide, mais c'est faux. Il ne remet en aucun cas en cause la liberté d'expression, qui reste un principe fondamental en Europe. Ce n'est pas une décision technocratique de Bruxelles, mais bien un choix démocratique, fruit de trois années de travail approfondi. L'Europe est sans doute le continent où les élus sont les plus engagés sur les questions numériques. Nos législateurs, comme vous, ont travaillé en profondeur sur ces sujets. Il est donc important de rappeler que ces lois ne sont pas le fruit de la technocratie bruxelloise ni d'une décision isolée, mais bien d'un long processus démocratique. Elles ont été débattues, amendées et votées par les deux colégislateurs : le Parlement européen et le Conseil.

J'entends parfois dire que si ces lois ne plaisent pas à certains, il faudrait les revoir ou les abandonner sous la pression extérieure. Mais accepterions-nous qu'un pays comme la Chine nous impose de modifier une loi européenne votée à 90 % parce qu'elle ne convient pas aux entreprises chinoises ? De même, accepterions-nous que, de l'autre côté de l'Atlantique, un gouvernement décide que cette loi n'est pas adaptée aux intérêts de ses entreprises et exige son retrait ? Non, bien sûr. Pourtant, c'est exactement ce type de pression et de dialectique auxquelles nous avons été confrontés ces dernières semaines.

Avec ce corpus législatif, nous avons enfin un véritable espace informationnel européen, regroupant 450 millions de citoyens sous une même régulation. Pour la première fois, le marché intérieur numérique fonctionne pleinement, offrant aux entreprises un cadre stable pour se développer et innover. L'Europe est un continent ouvert, mais selon ses propres conditions. Nous sommes le premier marché numérique du monde libre, devant même les États-Unis et leurs 330 millions de consommateurs. . J'ai consacré beaucoup de temps à expliquer aux plateformes concernées par ces nouvelles régulations qu'il est normal que ceux qui veulent profiter du marché européen respectent nos règles. Ces textes sont des règlements, et non des directives, : ils s'appliquent donc immédiatement et uniformément à tous, sans adaptation nationale. Cette harmonisation est une avancée majeure.

Un autre point crucial est la souveraineté des données. J'ai mené un combat permanent pour que les données européennes restent en Europe. Cette bataille est loin d'être gagnée, car de nombreuses tentatives, directes et indirectes, cherchent à les capter. L'intelligence artificielle repose sur l'accès à des données de qualité, ce qui rend ce sujet encore plus stratégique. Certains de mes collègues commissaires étaient opposés à cette protection, notamment sous la pression des États-Unis. Mais notre souveraineté ne se négocie pas. Nous n'échangerons pas nos données contre du gaz ou tout autre chose, car elles sont un élément fondamental de notre indépendance. Il faut être lucide : certains gouvernements auraient préféré un monde où l'échange de données était libre et sans contraintes. Mais ce monde n'existe plus. Nous devons protéger nos intérêts.

Désormais, nous entrons dans la phase d'application de ces règlements. J'entends parfois dire que l'Europe recule face aux États-Unis, que nous étouffons l'innovation pendant que les GAFAM avancent. Ces affirmations affaiblissent l'Europe et servent directement les intérêts des grandes plateformes américaines. Nos régulations n'empêchent en rien l'innovation - si c'était le cas, l'innovation aurait cessé depuis déjà vingt ans !

Nous avons enfin un espace informationnel unifié, tout comme nous avons un marché intérieur unifié. Certes, il reste des barrières, mais le combat pour un marché plus fluide ne s'arrête jamais. Ce ne sont pas des contraintes excessives, mais des règles qui garantissent un marché unique de l'information et des données, et qui assurent une coexistence équilibrée.

J'ai moi-même une expérience industrielle, et je sais à quel point il est important d'avoir un cadre clair pour innover. Ceux qui affirment que trop de règles freinent l'innovation devraient observer l'exemple de la Chine, qui impose bien plus de régulations que nous, et qui, pourtant, est à la pointe sur certains modèles d'intelligence artificielle.

Dans le cadre de mon engagement, il m'arrive de me sentir isolé lorsque je rappelle certains principes essentiels à notre société, qui sont pourtant des règles de vivre-ensemble fondamentales. Prenons l'exemple de TikTok, qui a lancé : il y a six mois un nouveau service, TikTok Lite, destiné aux enfants de 7 à 14 ans. Son modèle incitait les plus jeunes à passer du temps en ligne en leur attribuant des points après sept heures d'utilisation quotidienne, points échangeables contre divers produits. Face à cela, j'ai pris l'initiative de contacter directement le directeur général de TikTok afin de l'alerter sur l'incompatibilité de cette pratique avec les principes que nous défendons. J'ai clairement signifié que, sans correction sous 24 heures, des sanctions immédiates s'appliqueraient : une injonction, une amende équivalente à 6 % du chiffre d'affaires et, potentiellement, une interdiction sur notre territoire. Le DSA n'est donc en aucun cas une mesure liberticide, mais une protection pour nos enfants, nos citoyens et notre démocratie.

Nous avons vu, à travers l'exemple du Brexit, l'impact que peuvent avoir les manipulations algorithmiques. Quelques jours avant le vote, personne ne s'attendait à un tel résultat, et ce n'est que plusieurs semaines après que l'on a découvert l'intervention massive de campagnes de désinformation, amplifiées par des algorithmes biaisés. Il est donc impératif de contrôler ces dérives. Ce combat n'est pas dirigé contre les Américains, comme certains le prétendent, mais pour les Européens. Mon travail ne consiste pas à m'opposer à un pays ou à une entreprise, mais à défendre nos valeurs et nos intérêts. Pourtant, à la veille d'un sommet crucial sur l'IA, je perçois déjà une certaine rhétorique qui vise à décrédibiliser notre action. Il est essentiel d'être fier de ce que nous avons accompli, car ce travail n'a pas été facile.

Chaque norme que nous établissons est issue d'un processus démocratique, discutée, votée et validée par nos instances représentatives. Il ne s'agit pas d'entraver l'innovation, bien au contraire.

Enfin, ce que nous défendons ne se limite pas à des principes abstraits : il s'agit de notre intégrité. De la même manière que nous défendons notre intégrité territoriale, nous devons préserver notre intégrité informationnelle. Ce combat est non négociable, car il touche au coeur même de notre souveraineté et de notre modèle démocratique.

Je souhaiterais aborder un dernier point concernant ce que vous avez pu observer récemment, notamment en ce qui concerne les déviances que nous devons traiter. Je suis conscient que certains acteurs, en particulier ceux qui gèrent des réseaux sociaux à grande échelle, ont des pratiques qui méritent une attention particulière. Il est fondamental de rappeler que pour nous, les plateformes régulées doivent avoir une capacité de précision dans la gestion des utilisateurs. Elles disposent d'une telle puissance qu'il était indispensable de mettre en place des mécanismes adaptés. Nous avons fixé un seuil de 45 millions d'utilisateurs, ce qui équivaut à 10 % de la population européenne. Ce chiffre est significatif, et il peut bien sûr évoluer avec le temps.

La principale législation que nous avons mise en place, le DSA, s'attaque à une spécificité unique dans l'histoire des médias : la capacité d'amplification systémique que seules les plateformes numériques peuvent générer. Cette capacité est extrêmement puissante et peut entraîner des conséquences qu'il convient de contrôler. Nous devons donc comprendre ce qui se passe dans les algorithmes de ces plateformes et y avoir un accès direct pour vérifier qu'il n'y a pas de dérives, en particulier celles qui concernent la manipulation de l'information.

En ce qui concerne la liberté d''expression, il est crucial de souligner que nous n'y touchons pas. Elle est régie par la « loi des hommes », au sens physique, et constitue un principe cardinal que nous respectons profondément, tout comme l'a fait le Parlement européen en protégeant cette liberté. Elle reste inviolable, à l'instar de ce que garantit le Premier Amendement aux États-Unis. Cependant, même si la liberté d'expression est protégée, certains propos comme ceux antisémites ou terroristes, qui portent atteinte à l'ordre public, doivent être condamnés conformément aux lois en vigueur.

Ce que nous régulons spécifiquement, c'est l'accélération des discours via les algorithmes des plateformes, c'est cette amplification systémique que nous cherchons à contrôler. Nous mettons donc en place des obligations strictes pour éviter les effets délétères de telles pratiques. Pour ce faire, nous avons constitué des équipes extrêmement compétentes. À l'origine, mon équipe comptait 170 personnes, et depuis mon départ de la Commission, cette équipe varie entre 170 et 200 membres. Ces professionnels, dont une partie provient de la Silicon Valley, ont rejoint notre cause avec une forte motivation, séduits par l'idée de contribuer à l'intérêt général dans un domaine aussi essentiel.

Lorsqu'on s'adresse aux acteurs du numérique, il est essentiel de parler leur langage. Faire de la politique implique de comprendre ses interlocuteurs et d'adopter un discours qui leur est intelligible. Ainsi, certains m'interrogent sur mon rôle en Europe et sur la manière dont j'interviens. Ils évoquent le DSA, ses implications, et je leur explique alors très clairement que les sanctions prévues sont de 6 % du chiffre d'affaires, avec la possibilité d'une fermeture temporaire en cas de non-conformité. Mais en aucun cas il ne s'agit de censure, encore moins d'une ingérence dans les processus électoraux.

J'entends aussi des interrogations sur des situations spécifiques, comme en Roumanie, où certains avancent que le DSA aurait invalidé les élections. La réalité est tout autre : ce sont des autorités nationales et des mécanismes démocratiques qui en garantissent la transparence, non une quelconque régulation européenne. Il est donc important de calmer certaines interprétations erronées et d'expliquer, avec rigueur, comment fonctionne réellement la régulation des plateformes.

Sur le plan concret, sous ma direction, la Commission a lancé deux enquêtes sur TikTok ainsi que deux autres sur X. L'une concernait l'identification des utilisateurs et la vérification des comptes (coche bleue), et l'autre portait sur les pratiques publicitaires, notamment pour protéger les enfants de contenus inappropriés. Ces enquêtes sont menées dans le cadre d'une procédure contradictoire, ce qui signifie que les plateformes ont l'occasion de répondre et d'apporter des corrections avant toute sanction. L'objectif n'est pas de punir systématiquement, mais d'accompagner ces entreprises dans leur adaptation à la régulation européenne. Il est essentiel de rappeler que l'Europe représente 40 à 50 % des bénéfices de ces grandes plateformes ; elles ont donc tout intérêt à s'y conformer.

Mon rôle, en tant que régulateur, était d'assurer que cette régulation soit respectée. Cela implique d'être dans une dynamique d'ajustement permanent, car ces plateformes évoluent rapidement. L'approche adoptée est donc graduelle : nous identifions les dysfonctionnements, nous leur laissons la possibilité de se corriger, et seulement en cas d'inaction des sanctions peuvent s'appliquer. Cependant, il arrive un moment où le dialogue atteint ses limites et où l'aspect juridique prend le dessus, certains acteurs cherchant à gagner du temps à travers des batailles judiciaires. Depuis ma démission de la Commission en septembre dernier, je ne peux plus me prononcer sur l'évolution de ces enquêtes. Néanmoins, j'ai noté avec satisfaction que le 17 janvier, la Commission a élargi ses investigations sur X, ce qui confirme l'importance de ces régulations.

Quant à moi, en tant que citoyen et utilisateur de X, certains m'ont demandé si j'avais l'intention de quitter cette plateforme. Ma réponse est catégorique : certainement pas. J'ai contribué à l'élaboration du DSA précisément pour que ces grandes plateformes soient considérées en Europe comme des biens communs et qu'elles respectent les valeurs démocratiques de notre continent. Quitter X signifierait reconnaître un échec, ce que je refuse. Ce que je veux, c'est que la régulation s'applique pleinement, garantissant ainsi que ces espaces numériques restent des lieux d'échange conformes aux principes que nous défendons. Désormais, les discussions portent sur l'opacité des algorithmes et sur la manière dont certaines publications sont mises en avant. Il suffit d'observer les contenus qui nous sont proposés pour constater des biais et des mécanismes de mise en avant parfois troublants. Certains discours peuvent surprendre, voire choquer, et cela soulève des questions légitimes sur la responsabilité de ces plateformes. C'est précisément pour encadrer ces dérives que nous avons mis en place ces régulations, afin de garantir un environnement numérique plus transparent et plus sûr pour tous.

M. Dominique de Legge. - Je partage pleinement l'idée selon laquelle l'Europe doit adopter une stratégie plus affinée pour défendre ses intérêts industriels, en particulier dans les secteurs du numérique et de la défense. L'irruption de la guerre aux frontières de l'Union et la porosité croissante de nos démocraties face aux ingérences étrangères malveillantes rendent ces enjeux encore plus déterminants.

J'ai eu l'occasion de constater directement ce changement de cap auquel vous avez contribué. D'abord comme rapporteur des crédits de la mission défense, j'ai observé cette volonté de fédérer , à l'échelle européenne, la production et la fourniture d'armement et de munitions à l'Ukraine. Certes, les résultats obtenus ne sont pas toujours à la hauteur des ambitions initiales, mais vous avez indéniablement fait bouger les lignes. Ensuite, comme président de la commission d'enquête sur les influences étrangères, j'ai pu observer le rapport de force que vous avez su engager avec les géants du numérique pour lutter contre la désinformation et la modération des contenus.

L'élection de Donald Trump constitue un défi majeur, car elle pourrait radicalement modifier les rapports de force internationaux. Les grands acteurs de la tech américaine semblent désormais s'aligner sur la trajectoire politique de Donald Trump, et nous savons que son retour au pouvoir pourrait intensifier la pression sur l'Europe. Le protectorat américain reste l'élément structurant de la stratégie de beaucoup de nos partenaires sur le continent, et Donald Trump n'hésitera pas à en tirer profit, notamment à travers des menaces sur les droits de douane ou des exigences accrues en matière de dépenses militaires.

Je note d'ailleurs que certaines déclarations récentes sont particulièrement symptomatiques de cette situation. Christine Lagarde a ainsi appelé l'Europe à augmenter massivement ses achats d'armement américain, tandis que le secrétaire général de l'OTAN a suggéré que l'Europe assume seule le financement du maintien de l'aide militaire à Ukraine.

Compte tenu de votre expérience à la Commission européenne et de vos connaissances des grands enjeux de la politique américaine, je souhaiterais vous poser deux questions à cet égard.

Premièrement, pensez-vous que nos ambitions européennes en matière de défense peuvent se construire durablement sans une évolution du traité sur le fonctionnement de l'Union européenne (TFUE) ? Force est de constater que la défense reste une compétence des États membres et que c'est sur une base juridique fragile que reposent la stratégie pour l'industrie européenne de la défense (EDIS) et la proposition de règlement établissant un programme pour l'industrie européenne de la défense (EDIP).

Deuxièmement, l'Europe est-elle prête à un rapport de force avec les États-Unis en cas de durcissement des relations ? En particulier, comment jugez-vous la capacité de réaction de la Commission européenne actuelle face à la volonté des GAFAM de s'écarter des normes européennes et les ingérences d'Elon Musk dans les processus électoraux, comme on l'a constaté récemment en Allemagne ?

Mme Florence Blatrix Contat. - Merci Monsieur Breton pour votre intervention, la mise en place de ces régulations numériques extrêmement importantes et le courage que vous avez eu de ne pas opposer régulation et compétitivité. Le groupe socialiste, écologiste et républicain a déposé la semaine dernière une proposition de résolution européenne visant à l'application stricte du cadre réglementaire numérique de l'Union européenne et appelant à bâtir une réelle souveraineté numérique européenne. Ce cadre réglementaire est un rempart essentiel. Tolérer les tentatives de déstabilisation d'où qu'elles viennent serait une faillite inacceptable. Or ces menaces se multiplient, une offensive transatlantique se dessine visant à affaiblir l'Europe et à renforcer l'emprise des plateformes numériques américaines sur notre économie mais également sur nos vies en étendant un hyper capitalisme de surveillance. L'Europe n'a pas le luxe de l'attentisme ou du recul et doit faire respecter ses règles.

Premièrement, de quelles marges de manoeuvre disposons-nous pour intervenir davantage, non pas pour museler la liberté d'expression, mais pour en finir avec la liberté de mentir ? La Commission osera-t-elle appliquer pleinement le cadre réglementaire sur le numérique que nous avons adopté ? Aujourd'hui, ce n'est pas la liberté d'expression qui est menacée, mais bien l'effectivité du droit. C'est un combat qui est loin d'être gagné avec certaines plateformes, notamment X. La Commission avance-t-elle assez vite sur ces sujets ? Que pensez-vous de l'initiative du Brésil, qui a temporairement suspendu le réseau social X pour non-respect des règles nationales ?

Deuxièmement, que ce soit en matière d'infrastructures de plateformes ou d'intelligence artificielle, l'Europe peine encore à s'imposer. Comment construire une véritable souveraineté numérique européenne face à la domination des géants américains et chinois ? Comment bâtir une politique numérique plus indépendante, avec un véritable marché unique ? Enrico Letta l'a rappelé dans son rapport : pourquoi ne pas encourager l'émergence d'écosystèmes numériques européens en instaurant une préférence communautaire dans la commande publique de logiciels ? Existe-t-il des blocages politiques qui freinent un investissement massif dans des infrastructures souveraines et la relocalisation des données en Europe ?

Enfin, la question des données personnelles est plus que jamais cruciale. Alors que Donald Trump fragilise l'accord ayant succédé au Privacy Shield, cet accord risque-t-il de devenir une monnaie d'échange dans de futures négociations commerciales transatlantiques ?

Mme Catherine Morin-Desailly. - Merci Monsieur le Commissaire, sachez d'abord que vous n'êtes pas seul quand il s'agit de défendre la souveraineté européenne numérique. Nous y travaillons au Sénat depuis des années, de façon transpartisane. Sur chacun des textes, vous avez su faire évoluer les travaux en lien avec les députés européens, nous permettant de formuler ensemble des propositions pour améliorer les régulations. Nous vous remercions sincèrement pour cela, car nous avons souvent été écoutés.

Concernant la stricte application des règlements, il est évident que nous veillerons à ce que ces textes votés soient pleinement appliqués. Je tiens à souligner que, ici même au Sénat, nous avons également beaucoup travaillé sur la loi visant à sécuriser et à réguler l'espace numérique (SREN), avec des mesures qui ont été votées à l'unanimité par tous les groupes. Ces mêmes groupes, souvent critiques sur l'atteinte à la liberté d'expression, ont validé ces mesures, tant à l'Assemblée nationale qu'ici.

Une question importante à soulever, à la suite des conclusions des États généraux de la formation et de la commission d'enquête sur TikTok, est celle du statut des plateformes. Ne serait-il pas pertinent de définir de manière plus précise la responsabilité des éditeurs et des hébergeurs ? Ne devrait-on pas instaurer une responsabilité claire et définie, notamment en ce qui concerne la question de la compétence des régulateurs nationaux ? Aujourd'hui, le régulateur compétent est le pays où la plateforme est installée, généralement l'Irlande. N'est-il pas souhaitable que chaque régulateur national puisse se saisir des questions directement liées à leur pays, ou au moins être associé au processus de régulation, afin d'améliorer l'efficacité du cadre existant ?

Ma question principale, qui guide mes réflexions, est la suivante : comment briser le cercle de nos « dépendances dangereuses » vis-à-vis des géants du numérique ? Nous dépendons en grande partie des acteurs dominants du numérique, qui contrôlent toute la chaîne. La politique industrielle doit-elle être redéfinie pour mieux soutenir la souveraineté européenne dans ce secteur ?

Enfin, sur la question de la gestion des données, il est impératif de ne pas négocier ces dernières contre d''autres intérêts géopolitiques, comme l'a démontré la renégociation du transfert de données personnelles entre l'Europe et les États-Unis sous la présidence de Joe Biden. Ce sujet reste une véritable préoccupation. Ne faut-il pas revoir la certification européenne pour les services de cloud (EUCS) ?

D'autre part, faut-il se laisser intoxiquer par les déclarations impressionnantes de figures comme Donald Trump, évoquant des sommes astronomiques ? On découvre dans le même temps que la Chine a développé le logiciel d'IA « DeepkSeek » pour seulement 5 milliards de dollars, soit moins que « Mistral AI ». Cela semble démontrer qu'il est possible de réaliser des projets ambitieux, même face aux coûts des programmes des géants mondiaux. Qu'en pensez-vous et quel est, selon vous, le chemin à suivre pour avancer sur cette politique industrielle européenne, dans un contexte aussi complexe ?

Mme Nadège Havet. - La semaine dernière, nous avons participé, ici-même, à une table ronde sur les conséquences de l'élection à la présidence des États-Unis de Monsieur Trump, notamment en ce qui concerne l''Union européenne et la relation transatlantique. La discussion était passionnante. Comme vous l''avez souligné, les États-Unis restent le premier allié de l''Europe, et vice-versa, mais il est essentiel que nous agissions non seulement en alliés, mais aussi en partenaires stratégiques.

Cela implique de nous préparer à un rapport de force inévitable. Ce rapport de force est évident, notamment dans des domaines comme les tarifs douaniers, mais aussi dans des dossiers sensibles tels que celui du Groenland. Face à ces enjeux, il est primordial que l''Europe parle d''une seule voix. Il ne s''agit pas de se positionner de manière fragmentée, mais d'assurer une unité et une coordination solides pour aborder ces défis. À cet égard, la Première ministre danoise, Mette Frederiksen, a reçu un large soutien de la France et de l'Allemagne sur la question du Groenland, un territoire convoité par Donald Trump.

Monsieur le Commissaire, quel est votre regard sur l'envie du Président américain d'annexer ou de conquérir le Groenland ? Quel impact cela pourrait-il avoir d''un point de vue de défense et de géopolitique pour l''Europe et ses relations avec les États-Unis ?

Mme Mathilde Ollivier. - Je souhaiterais aborder l'intégration numérique à l'échelle européenne. Désormais, avec l'avancée vers une législation harmonisée au niveau européen et un marché plus intégré, l'enjeu majeur reste celui de l'investissement, un sujet que vous avez d'ailleurs très bien abordé. Il est crucial d'arriver à attirer à la fois des investissements publics et privés, et ce, à une échelle européenne.

Je souhaitais donc vous interroger sur la vision que vous avez à ce sujet, ainsi que sur votre regard peut-être critique sur l'initiative du Conseil européen de l'innovation, lancée sous la précédente Commission européenne. Ce programme visait à encourager des investissements importants dans des nouvelles technologies, tout en associant investissements privés et publics pour soutenir l'émergence de nouvelles licornes européennes. Comment évaluez-vous cette initiative ? Dans cette optique, quels sont les principaux défis que vous identifiez pour la mobilisation des capitaux nécessaires à la souveraineté numérique européenne ?

Enfin, je voudrais évoquer la transition écologique, qui constitue un des grands volets de la Commission précédente, notamment avec le Pacte vert européen. Ce dernier est aujourd'hui remis en question, à la fois au niveau européen et français, par certains partis politiques et personnalités publiques. Dans certains de vos articles, vous avez évoqué les enjeux de la transition numérique tout en mettant en avant les spécificités européennes dans des domaines tels que l'agriculture et la transition énergétique. Comment analysez-vous le risque de détricotage d'une partie du bilan de cette Commission européenne sur le Pacte vert ? Quelles sont, selon vous, les meilleures solutions pour y faire face, surtout lorsque vous soulignez qu'il ne faut pas opposer régulation et innovation, car cela se pose également dans le cadre de la compétitivité et de la transition écologique ?

M. Jean-François Rapin, président. - Beaucoup de questions sur le numérique puisque c'est d'actualité, peut-être un peu moins sur les enjeux européens de défense. Je reviens de la conférence des présidents des commissions des affaires européennes des Parlements nationaux (COSAC) qui s'est tenue à Varsovie : tous les États membres ont exprimé un point de vue sur les enjeux européens de défense, que ce soit sous ses aspects fonctionnels, organisationnels ou encore industriels. Que pouvez-vous nous dire sur ce sujet ?

M. Thierry Breton. - Merci pour toutes ces questions, qui sont d''une grande richesse et qui témoignent de la compétence des membres de cette commission sur toutes ces questions. Permettez-moi, dans un premier temps, de partager quelques réflexions personnelles sur la méthode. Il est vrai que j'ai bien connu la fin de la présidence de Donald Trump, avec des contacts directs avec son administration et voici qu'une nouvelle présidence Trump s'ouvre. Modestement, j'aimerais partager avec vous ce que j'en ai retiré.

Vous l'avez dit, les États-Unis sont nos alliés, mais il est essentiel de ne pas faire preuve de naïveté.

À ce titre, je me permets de mentionner une histoire récente. Lorsque j'ai appris que Mme Weidel allait bénéficier de la générosité numérique d'Elon Musk et dialoguer avec lui pendant une heure et demie, j'ai pris l''initiative de lui écrire une lettre en tant que simple citoyen. Étant donné qu'elle allait bénéficier d'un avantage considérable par rapport à ses concurrents, je lui ai demandé comment ce temps de parole allait être comptabilisé. Si cette personne bénéficie d'un accès privilégié à une plateforme numérique, la question se pose de savoir si, en tant que citoyen européen, ses interactions respectent les règles européennes. Peu importe l'actionnariat, une plateforme opérant en Europe doit respecter nos lois.

Je veux insister sur un point fondamental. Au lieu de se demander ce que nous pouvons donner pour plaire, il est important de réaliser que notre travail, en tant que responsables politiques, consiste à établir des rapports de force. C'est là le coeur de notre mission. Il ne s'agit pas de céder avant même d'entamer les discussions, mais de faire respecter nos principes. Nous devons arriver à des accords sans nous soumettre avant même d'entrer dans la négociation, nous devons défendre nos positions.

Dans cette perspective, je voudrais proposer une approche pour renforcer notre méthodologie. Ce serait un exercice utile de nous réunir pour identifier ensemble, de manière pragmatique, ce qui est non négociable pour nous, les Européens. Par exemple, l'intégrité de notre territoire, telle que définie à l'article 42-7 du traité sur l'Union européenne (TUE), doit être absolue et non négociable. Personne, qu'il soit européen ou non, ne doit pouvoir remettre en question notre souveraineté, nos principes démocratiques et notre Etat de droit. C'est un principe fondamental, qui n'est pas négociable.

Je me permets de souligner une déclaration inquiétante du vice-président des États-Unis, qui, en septembre, a menacé de retirer la protection de l'OTAN à l'Europe si des lois numériques touchaient aux intérêts d'Elon Musk. Une telle déclaration mérite d'être prise très au sérieux. Mais il est impératif que, malgré ces pressions, nous défendions fermement nos lois et nos principes. Si un acteur extérieur veut intervenir en Europe, il doit respecter nos règles et notre cadre juridique, sans exception.

Les accords de Paris constituent au même titre une ligne rouge. Je préfère l'aborder de cette manière, en insistant sur nos lignes rouges, plutôt que de dire ce sur quoi nous allons céder. Nous sommes 450 millions d'Européens, contre 330 millions d'Américains. En termes de taille, nous sommes donc une fois et demie plus grands qu'eux, et il ne faut jamais l'oublier.

Quant à la défense, il est absolument indispensable d'augmenter nos capacités de production. Je me suis battu pour cela, notamment pour les munitions. Nous avons tenu nos objectifs d'augmentation, et ce, malgré la résistance de certains États membres qui n'étaient pas enthousiastes à l'idée que la Commission s'ingère dans leurs affaires. Mais je le répète : nous avons réalisé des avancées concrètes.

Par exemple, s'agissant de la décision du Conseil d'envoyer un million d'obus en un an à l'Ukraine, dès le début, j'ai mené des discussions avec les fabricants et je suis allé d'usine en usine à travers l'Europe pour examiner les chaînes d'approvisionnement. Nous avons pris des mesures législatives concrètes, comme le règlement relatif au soutien à la production de munitions (ASAP), que vous connaissez bien, qui a permis d'allouer un minimum de fonds publics pour soutenir la production de munitions. Ceux qui voulaient bénéficier d'un soutien financier de l'ordre de 15 à 20 % de fonds publics devaient proposer un projet multi-pays et multisectoriel. C'est ainsi que nous avons progressivement développé cette capacité de production. En un an et demi, nous avons réussi à passer de 600 000 obus produits en Europe, alors que les États-Unis en produisaient 300 000, à 2 millions aujourd'hui. Nous avons donc pris les devants et prouvé que nous pouvions y arriver, mais cela nécessite de l'énergie, du leadership et une volonté politique forte. Il y a aujourd'hui un appétit européen pour s'autonomiser en matière de défense. Le Premier ministre polonais Donald Tusk, dont le pays assume la présidence tournante du Conseil de l'Union européenne, l'a réaffirmé récemment : il est impensable pour lui de continuer à intermédier notre défense à autrui, et il vise ici en creux les États-Unis.

Toutefois, le sujet de la protection nucléaire reste un enjeu majeur. Tant que nous ne l'aurons pas abordé, il sera difficile de progresser. Je ne parle en aucun cas de mutualiser l'usage de la force nucléaire. Cependant, le Président de la République a indiqué que la dissuasion nucléaire comprenait une dimension européenne, sans préciser laquelle. Certains diront que les enjeux européens de la défense concernent principalement la dépense publique et qu'il est essentiel de maintenir ce qu'on appelle le level playing field, c'est-à-dire un terrain de jeu équitable. Il est absolument crucial d'avoir une enveloppe commune pour la défense, comme nous l'avons fait avec le programme ASAP, dont les résultats ont prouvé leur efficacité. Cela nous permettra d'être de plus en plus indépendants, sans toutefois que cela règle tout. La sécurité des Allemands, des Polonais, des trois pays baltes et de l'ensemble des nations européennes est inextricablement liée à ce défi stratégique qui pèsera dans les discussions transactionnelles avec Donald Trump. Il nous faut donc des moyens accrus. La Première ministre estonienne de l'époque, Kaja Kallas, désormais Haut-représentant de l'UE, et moi-même avons évoqué et travaillé ensemble sur un objectif de 100 milliards d'euros, en vue de commencer à mettre en place une enveloppe dédiée pour réagir le plus rapidement possible. Il sera également nécessaire d'engager des discussions avec les Britanniques avec lesquels nous sommes liés par le traité de Lancaster House.

Quant à l'intelligence artificielle, je tiens à préciser que ce n'est que la deuxième phase de l'exploitation des données. Aujourd'hui, nous avons cette masse de données et, chaque année, nous générons davantage d'informations que jamais dans l'histoire de l'humanité. Grâce à notre capacité à stocker ces données et à les analyser, nous commençons à créer de la valeur ajoutée. Cela repose sur des correspondances subtiles et précises, dans un cadre contextuel, pour tirer des enseignements de ce que l'expérience humaine a pu générer, apprendre et répondre à une question qui lui est posée.

Cela revient à créer de la valeur ajoutée à partir de données que nous générons en masse. Il faut donc des infrastructures performantes, des calculateurs puissants, des data centers. Bien que ce ne soit pas un sujet particulièrement séduisant, il est crucial que ces centres de stockage existent car ce sont eux qui permettent de conserver ces données, de les traiter et de les entraîner. En Europe, nous avons ces capacités. L'intelligence artificielle repose sur trois piliers essentiels : les données, la puissance de calcul et le stockage. Il est essentiel que nous ayons cette souveraineté sur nos infrastructures, en particulier nos data centers, qui nécessitent une consommation énergétique considérable mais qui sont au coeur de notre indépendance numérique.

Il est primordial que les données générées en Europe nous appartiennent et ne viennent pas enrichir des plateformes américaines. Donald Trump a évoqué un investissement de 500 milliards de dollars pour la création de data centers et pour renforcer les capacités d'entraînement des modèles d'intelligence artificielle. Mais il compte aussi extirper les données européennes pour les exploiter à son avantage, grâce au Free Flow of Data et au Privacy Shield, deux dispositifs avec lesquels j'ai toujours été en désaccord. Nous devons veiller à ce que les programmes d'intelligence artificielle que nous utilisons n'aspirent pas nos données, mais qu'ils conservent et les valorisent en Europe. Cela figure dans le règlement sur l'IA mais maintenant, il faut s'assurer qu'il soit correctement appliqué.

Concernant Stargate, des dissensions ont été observées. Elon Musk a réagi deux heures après l''annonce de Donald Trump, déclarant que l'injection de 500 milliards de dollars par l'État américain était irréalisable, et que, au maximum, Donald Trump pouvait mettre 10 milliards sur la table. Cela montre qu'il s'agissait avant tout d'un effet d'annonce. Mais derrière cette déclaration, il est essentiel de se poser la question suivante : qu'est-ce que les Américains savent faire que nous ne savons pas faire ? Ils ont cette capacité unique à attirer des capitaux pour développer leur économie et leur industrie. Cela a été encore plus manifeste avec l'Inflation Reduction Act, où la Commission européenne se félicitait de la politique verte adoptée par les États-Unis. En revanche, nos entreprises en Europe se retrouvaient en difficulté face à ce mouvement car on observait un effet d'annonce destiné à capter précisément les capitaux européens.

Il est important de rappeler que chaque année, 300 milliards d'euros d'épargne européenne sont investis aux États-Unis, faute de disposer d'un marché des capitaux performant en Europe. Il est impératif de remédier à cette situation. A cet égard, le rapport d'Enrico Letta est très opérationnel. Il met en avant trois axes essentiels : la nécessité d'un marché des capitaux pour que l'épargne européenne puisse être investie dans des projets européens ; la réorganisation du marché des télécommunications, essentiel pour soutenir l'infrastructure numérique ; et la structuration du marché de l'énergie. Si nous mettons en place ces réformes, la compétitivité suivra. Mais ce n'est pas en déconstruisant notre modèle normatif que l'on parviendra à une véritable politique industrielle.

Le projet Stargate est un projet avant tout destiné à faire parler les Européens. Pourquoi ne parlons-nous pas plus de notre propre potentiel ? Il est évident que nous avons des supercalculateurs, que nous savons fabriquer certains des meilleurs data centers au monde et que nous avons des compétences solides dans ce domaine. De plus, nous générons plus de données industrielles que n'importe quel autre continent. Encore faut-il que nous ayons la volonté politique pour avancer et concrétiser ce potentiel.

S'agissant de l'EUCS, bien sûr qu'il faut la revoir, et la France tient une bonne position, mais certains membres s'y opposent car ils reçoivent des pressions des États-Unis en échange de leur protection militaire.

Sur DeepSeek, je ne sais pas si le projet n'aurait coûté que 5 milliards d'euros comme l'affirme la Chine. En revanche, je sais que la conception de tels modèles nécessite d'importantes capacités d'entraînement, ce qui soulève deux questions majeures.

D'une part, les modèles développés en Chine semblent s'appuyer sur des bases de données incommensurables. Cela soulève la question de l'accès aux données européennes : en effet, ces modèles répondent de manière particulièrement pertinente aux questions que nous nous posons en Europe et en France. De plus, leur entraînement ne semble pas avoir été limité aux corpus classiques, car ils sont capables de fournir des réponses précises sur des sujets institutionnels, comme le fonctionnement du Sénat ou l'origine du nom de certaines salles.

D'autre part, la question des capacités de calcul se pose. La Chine a-t-elle développé des microprocesseurs nanométriques de l'ordre de 27 à 54 nanomètres ? À ce jour, ce n'est pas encore avéré, d'autant plus que des restrictions ont été imposées, notamment par l'entreprise européenne ASML, seule à pouvoir fabriquer les équipements nécessaires à leur production. Est-ce que la Chine a contourné ces restrictions, le cas échéant par quel moyen l'a-t-elle fait ? A-t-elle détourné des technologies existantes ? A-t-elle mis au point ses propres capacités en s'appuyant sur la porosité technologique entre Taïwan et la Chine, compte tenu de la proximité géographique ? Y sont-ils arrivés via les données en open source ? Cela, on pourra le savoir car nous aurons accès aux algorithmes de ces logiciels.

La Chine est pleinement engagée dans cette course technologique. De notre côté, nous disposons des capacités nécessaires pour rivaliser. Il est donc impératif de cesser de prétendre que cela est hors de notre portée. Plutôt que de nous résigner, nous devons nous donner les moyens d'agir. Restons vigilants face aux discours tenus par certains acteurs européens, qui peuvent bénéficier de financements d'entreprises d'États tiers. Il est essentiel de garder notre cap, de travailler pour l'intérêt général et d'éviter de tomber dans une naïveté simpliste qui nous affaiblirait dans cette compétition stratégique.

Pour conclure, je souhaiterais partager un exemple qui illustre la portée de notre régulation numérique. L'été dernier, j'ai exercé la présidence par intérim de la Commission européenne en raison des congés estivaux. Au cours de cette période, mes équipes et moi avons observé l'annonce, largement médiatisée, d'un échange sur X entre Elon Musk et Donald Trump, alors candidat à la présidence des États-Unis. L'événement était présenté comme un moment clé à l'échelle mondiale, et, comme toujours dans ce type de situation, nous avons procédé à des tests techniques pour garantir le bon fonctionnement du réseau.

Or, la plateforme en question, bien qu'américaine, est soumise à la régulation européenne. Sur un total d'environ 300 millions d'utilisateurs, 140 millions se trouvent en Europe, ce qui confère à notre législation une portée significative. Nous n'intervenons pas sur le contenu en lui-même, d'où qu'il provienne, mais nous veillons à la manière dont il est amplifié sur notre territoire. L'objectif est d'éviter toute manipulation algorithmique visant à créer artificiellement de l'engagement ou à favoriser certains contenus au détriment d'autres.

C'est dans ce contexte que j'ai adressé une lettre à Elon Musk. Je lui ai rappelé qu'en Grande-Bretagne, son algorithme avait récemment amplifié des contenus ayant conduit à des troubles importants. Fort de ce constat, et considérant l'ampleur annoncée de son événement avec Donald Trump, je lui ai rappelé que la régulation ne se limitait pas aux aspects techniques, mais englobait également la responsabilité de l'amplification des contenus sur notre territoire. J'ai précisé que nos équipes suivraient la situation avec attention et que nous prendrions, le cas échéant, les décisions nécessaires dans le cadre de la loi.

Certains y ont vu un acte de censure ou de gestion abusive. Il s'agissait pourtant simplement de l'application rigoureuse du cadre législatif européen, qui, pour la première fois, bénéficie d'une portée extraterritoriale dans l'espace numérique. Les États-Unis imposent leur propre extraterritorialité à travers le dollar ou leur réglementation financière ; nous avons, pour notre part, construit un rapport de force qui empêche désormais les grandes plateformes de faire ce qu'elles veulent sur notre territoire.

Cette fermeté a suscité une réaction immédiate : l'extrême droite du Congrès américain s'est emparée du sujet et m'a adressé une lettre incendiaire. Peu importe. L'essentiel est ailleurs : pour la première fois, nous affirmons ce que nous voulons, au lieu de subir les diktats des grandes plateformes sous couvert d'innovation ou de services prétendument irremplaçables.

Cette capacité d'action est une force inestimable qu'il nous faut préserver, car elle fait désormais partie intégrante de l'acquis européen et de notre souveraineté numérique.

M. Jean-François Rapin, président. - Monsieur le Commissaire, je vous remercie.

Questions diverses

M. Jean-François Rapin, président. - Notre commission a nommé la semaine dernière des rapporteurs sur la proposition de résolution européenne n° 266 que j'ai déposée avec mon collègue Olivier Rietmann pour obtenir la reconnaissance par l'Union européenne de la catégorie des entreprises de taille intermédiaire : Didier Marie se trouve finalement empêché de rapporter. Je vous propose donc de nommer à sa place Michaël Weber, toujours en duo avec Vincent Louault.

Je ne vois pas d'objection.

La réunion est close à 15 h 00

- Présidence de M. Jean-François Rapin, président de la commission des affaires européennes, de M. François Bonneau, membre de la délégation à la prospective, et de M. Patrick Chaize, président du groupe Numérique -

La réunion est ouverte à 8 h 25.

« IA : enjeux et perspectives pour les droits humains » : audition de MM. Bernard Benhamou et Jean-Marie Cavada

M. Jean-François Rapin, président de la commission des affaires européennes. - Bonjour à tous. Nous avons le plaisir d'accueillir Bernard Benhamou, secrétaire général de l'Institut de la souveraineté numérique, et Jean-Marie Cavada, président de l'Institut des droits fondamentaux numériques (iDFRights) et député européen honoraire. Ils nous présentent aujourd'hui leur rapport « Intelligence artificielle : enjeux et perspectives pour les droits humains en Europe ». Merci d'être parmi nous ce matin.

Monsieur Benhamou, l'Institut de la souveraineté numérique, créé en 2015, a pour mission de fédérer les acteurs économiques et du numérique sur les enjeux liés à la souveraineté numérique européenne. Vous avez également été délégué interministériel aux usages de l'internet auprès des ministères de la recherche et de l'économie numérique, coordinateur des premières conférences ministérielles européennes sur l'internet des objets et l'inclusion numérique lors de la présidence française de l'Union européenne en 2008, et conseiller de la délégation française au Sommet des Nations unies sur la société de l'information.

Monsieur Cavada, l'Institut des droits fondamentaux numériques se consacre à l'étude, la promotion et la défense des droits fondamentaux numériques. Vous êtes journaliste de formation et avez été élu au Parlement européen entre 2004 et 2019.

Vous nous présentez aujourd'hui votre rapport conjoint, intitulé « Intelligence artificielle : enjeux et perspectives pour les droits humains en Europe ». Il traite de l'impact de cette technologie sur les droits des personnes, notamment ceux des citoyens européens. Vous l'indiquez, « au-delà de leurs effets industriels et sociaux, les technologies d'IA pourraient avoir des conséquences durables sur l'organisation de nos sociétés et sur nos libertés ».

C'est pour cette raison qu'il m'a semblé important que la commission des affaires européennes vous entende. J'ai proposé d'associer à cette audition la délégation à la prospective, qui mène un travail au long cours sur l'intelligence artificielle (IA) dans ses diverses dimensions, et le groupe Numérique. Celui-ci rassemble des sénateurs de toutes les commissions sensibles aux enjeux des innovations dans ce domaine.

Vous consacrez une partie de votre rapport à la régulation européenne de l'intelligence artificielle, soulignant qu'elle « marque une rupture dans la conception même des technologies critiques dans nos sociétés ». Cette loi européenne, pionnière en matière de régulation de l'IA, avait pour objectif de mieux protéger les citoyens européens, mais aussi de stimuler les investissements de l'innovation dans l'IA en renforçant la sécurité du cadre juridique applicable. En résumé, elle veut que l'IA soit digne de confiance et qu'elle évolue dans un cadre juridique clair qui ne bride pas l'innovation.

Vous soulignez les enjeux liés à la régulation européenne de l'IA : l'encadrement des pratiques à risques, mais aussi la protection de la vie privée par le refus d'une IA qui dériverait vers un contrôle politique et social des individus. Vous pointez notamment un risque glaçant : celui d'une divulgation des pensées et des convictions des individus via l'IA. Vous citez l'analyse en masse des données comportementales des internautes pour leur communiquer des publicités ciblées, mais aussi pour les manipuler sur le plan politique ou idéologique. Mais la législation européenne est-elle capable de nous prémunir contre ces risques ? Elle a pour ambition d'encadrer les dérives liées à l'usage de l'IA, mais le temps requis pour son élaboration jusqu'à son entrée en vigueur est sans commune mesure avec le rythme extrêmement rapide des innovations en ce domaine. Ainsi, entre le moment où la proposition de règlement sur l'IA a été publiée et le moment où le texte a été adopté, l'IA générative a fait irruption sur la scène publique, avec son lot de deepfakes et d'inquiétudes. De même, la proposition de directive sur la responsabilité en matière d'IA, que la présidence polonaise du Conseil de l'Union européenne a inscrite à son programme et qui vise à garantir une réparation aux victimes de dommages causés par des systèmes d'IA, est en préparation depuis 2022.

Nous sommes confrontés à un autre enjeu : comment articuler la régulation de l'IA et la protection des citoyens avec l'innovation et l'ambition industrielle ? En d'autres termes, l'Europe va-t-elle se trouver seule à réguler l'IA ? À peine investi, le Président des États-Unis Donald Trump a révoqué le décret présidentiel sur l'IA signé par Joe Biden, fin 2023, via un décret intitulé « Supprimer les obstacles à la suprématie américaine en matière d'intelligence artificielle ». Le ralliement de la Tech américaine au Président Trump met-il en péril les droits humains en Europe, compte tenu de leur toute-puissance, de leurs dérives, sous couvert de liberté d'expression et de leur hostilité affichée à l'égard des lois européennes ?

L'enjeu industriel et l'enjeu éthique me semblent devoir être appréhendés ensemble. Comment peser sur la régulation de l'IA alors que les champions européens sont de tailles modestes par rapport à leurs concurrents américains ? Vous rappelez que le développement industriel de l'IA aux États-Unis a été favorisé par la puissance publique américaine. Encore la semaine dernière, le Président américain a annoncé un plan d'investissement de 500 milliards de dollars dans les infrastructures nécessaires à l'IA - le projet Stargate - sur la durée de son mandat. Est-il réalisable ou réaliste ? Vous nous en direz peut-être davantage. Comment l'Europe peut-elle déployer une stratégie industrielle au service de l'IA conforme à ses valeurs ?

M. François Bonneau. - Bonjour à tous. Je vous prie d'excuser l'absence de la présidente de la délégation à la prospective, Christine Lavarde, retenue par la réunion de la commission mixte paritaire sur le projet de loi de finances. Elle aurait souhaité vous adresser ces quelques mots.

La réunion conjointe de ce matin constitue une initiative particulièrement pertinente. La délégation tient à exprimer sa reconnaissance à Catherine Morin-Desailly, instigatrice de cette rencontre, ainsi qu'à Jean-François Rapin pour son organisation et à Patrick Chaize, qui y associe l'expertise de son groupe d'études.

Le sujet qui nous rassemble aujourd'hui se distingue par son actualité et son dynamisme à l'échelle nationale, européenne et internationale. Chaque jour ou presque, de nouvelles annonces viennent témoigner de son évolution rapide, à l'instar de l'ouverture récente au public du modèle chinois DeepSeek. Parallèlement, l'ensemble des secteurs économiques et de la vie sociale s'approprient ces technologies, et nos concitoyens se sentent un peu dépassés. Cette course effrénée à la généralisation et à la puissance de l'IA revêt un caractère vertigineux. Il est donc impératif d'en prendre pleinement conscience et de s'en saisir avec sérieux. C'est ce que vous faites avec une acuité remarquable dans votre rapport.

La délégation à la prospective s'est engagée depuis plusieurs mois dans une réflexion approfondie sur l'intelligence artificielle, afin d'anticiper ses répercussions sur notre société. Nous avons choisi d'aborder ce sujet sous un prisme spécifique : celui du service public.

Deux principes majeurs ont guidé nos travaux : la nécessité d'exploiter cet outil au bénéfice de l'intérêt général, et celle d'en valoriser le potentiel sans compromettre nos libertés fondamentales, notre humanité et notre souveraineté. C'est pourquoi nous avons adopté une approche concrète et sectorielle, donnant lieu à l'élaboration de rapports thématiques. Trois d'entre eux ont déjà été adoptés. Ils étaient consacrés à l'intelligence artificielle appliquée aux impôts, aux prestations sociales et à la lutte contre la fraude ; au domaine de la santé ; et à l'éducation. Deux autres rapports sont actuellement en phase de finalisation : l'un portant sur l'intelligence artificielle au service des territoires et de la proximité, l'autre sur ses implications en matière environnementale.

À chaque fois, les rapports ont cherché à mettre en lumière des cas d'usage pertinents dans une perspective constructive, tout en identifiant les limites et les risques inhérents à ces technologies, afin de mieux cerner les impératifs de régulation. À cet égard, votre rapport constitue une précieuse contribution.

C'est donc avec un vif intérêt que nous nous apprêtons à vous écouter et à échanger avec vous.

M. Patrick Chaize, président du groupe Numérique. - Bonjour à tous. Je me réjouis que nous ayons pu organiser cette audition conjointe. Permettez-moi également de rendre hommage à nos deux invités, MM. Benhamou et Cavada, pour la qualité de leur rapport consacré aux enjeux et perspectives de l'intelligence artificielle en matière de droits humains en Europe. Votre travail couvre un champ d'une ampleur considérable, puisqu'il embrasse l'ensemble des défis que l'IA pose à nos sociétés et à nos démocraties. Il rejoint des préoccupations maintes fois exprimées au sein du groupe d'études sur le numérique.

Votre analyse est fascinante, bien que sa lecture suscite une certaine inquiétude. Vous alertez non seulement sur le retard technologique de l'Europe, déjà mis en évidence dans le rapport Letta, mais aussi sur la rupture profonde que l'intelligence artificielle représente pour nos sociétés. Vous ne la positionnez pas comme une simple avancée technologique parmi d'autres, mais comme une « méta-technologie transformatrice, la technologie derrière la technologie et tout le reste ». Vous allez même jusqu'à envisager l'émergence de nouveaux cultes fondés sur les avis émis par l'intelligence artificielle. Plus fondamentalement, vous démontrez que l'IA ne constitue pas seulement une révolution des usages, mais bien une révolution politique, qui redéfinit en profondeur notre conception de la réalité, nos opinions et nos modes de gouvernance.

Vos analyses sur l'usage déjà massif de l'IA par certains régimes autoritaires ont particulièrement retenu mon attention, d'autant plus dans un contexte marqué par une instabilité croissante en Europe et par la résurgence d'une forme d'impérialisme technologique en provenance des États-Unis.

Aussi, nous sommes très impatients de vous entendre.

M. Jean-François Rapin, président de la commission des affaires européennes. - Avant de vous donner la parole, j'aimerais rendre hommage à Aude Bornens, cheffe de service de la commission, qui va nous quitter pour d'autres horizons. J'aimerais qu'on l'applaudisse. Elle sera remplacée dès demain par Xavier Moal.

M. Bernard Benhamou, secrétaire général de l'Institut de la souveraineté numérique. - C'est avec beaucoup de gratitude que je souhaite entamer cette intervention. Merci de nous offrir l'opportunité de vous présenter ce travail, fruit d'une collaboration entre nos deux instituts, et qui vise à établir un panorama politique et réglementaire, dans un contexte en constante évolution. Si une actualisation de ce rapport s'imposait, ce qui ne manquera sans doute pas d'être le cas dans un avenir proche, il conviendrait de le réviser en permanence, tant les mutations géopolitiques et technologiques sont rapides.

Sur le plan géopolitique, plusieurs aspects méritent d'être soulignés, notamment les relations avec les États-Unis et les autres grands blocs qui développent ces technologies. L'émergence du modèle chinois DeepSeek suscite encore des débats quant à son originalité. Certains y voient en effet une reprise partielle de modèles préexistants, notamment celui d'OpenAI, ChatGPT. Contrairement aux technologies d'internet qui ont jusqu'à récemment été perçues comme disruptives, les nouvelles avancées en matière d'intelligence artificielle exercent un impact structurant encore plus profond sur nos sociétés.

Au cours des deux dernières décennies, internet a déjà remodelé en profondeur les sphères économiques et stratégiques. L'intelligence artificielle portera cette transformation à un niveau bien supérieur. Contrairement à une idée largement répandue, cette technologie ne s'est pas imposée brutalement. Elle s'est développée progressivement. Certes, l'essor spectaculaire des intelligences artificielles génératives au cours des deux ou trois dernières années les a rendues plus visibles aux yeux du grand public, mais les institutions et les entreprises exploitent ces technologies depuis plusieurs décennies. Leur impact est d'ores et déjà perceptible, mais l'accélération des capacités de traitement et l'aptitude croissante des outils d'intelligence artificielle à s'adapter à l'ensemble des secteurs professionnels constituent une nouveauté majeure. Ces évolutions soulèvent ainsi des enjeux industriels, culturels, éthiques et politiques.

Dès 2016, Sundar Pichai, président-directeur général de Google, annonçait que nous entrions dans une ère où les assistants d'intelligence artificielle seraient omniprésents, intégrés au coeur de nos vies quotidiennes. Leur importance irait bien au-delà de ce que nous avons connu avec le téléphone portable ou les services numériques mobiles.

Pour introduire cette réflexion, permettez-moi d'évoquer une courte séquence issue de Star Trek. Dans cette scène, une femme se trouve prisonnière à bord d'un vaisseau gravement endommagé à la suite d'une attaque. Alors que la destruction du vaisseau semble imminente, elle cherche désespérément un moyen de s'échapper et doit négocier sa survie avec l'intelligence artificielle qui contrôle l'appareil.

Une vidéo est projetée.

On pourrait penser que cet extrait relève purement de la science-fiction. Il n'en est rien. Si l'on observe les développements actuels des véhicules autonomes, une étude menée par le Massachussets Institute of Technology (MIT) auprès de 2,5 millions de personnes fournit des résultats intéressants. Elle montre comment déterminer qui doit être sauvé et qui doit être sacrifié en cas d'accident. À l'échelle globale, elle révèle que l'on choisira naturellement de sauver un enfant, mais pour une raison mystérieuse, on tue systématiquement le chat. Plus sérieusement, cette étude met en lumière l'existence de différences culturelles profondes dans les critères de décision concernant les vies à sauver. En Asie, par exemple, on sauve les personnes âgées, alors qu'en Occident, on privilégie les jeunes.

Les différences culturelles dans la manière même de concevoir les intelligences artificielles pourraient se traduire par des divergences de comportements et des choix politiques distincts. À ce sujet, je vous invite à essayer l'outil DeepSeek, qui, lorsqu'on l'interroge sur les événements de la place Tian'anmen, efface sa réponse en un clin d'oeil et se limite finalement à dire que ce sujet dépasse son champ de compétence, engageant ainsi une forme de censure en temps réel.

La façon dont ces systèmes sont codés n'est pas neutre. Jean-Marie Cavada s'est exprimé à plusieurs reprises sur les données utilisées pour l'entraînement des modèles. Qu'elles soient liées à des droits de propriété intellectuelle ou à des informations personnelles sensibles, elles constituent le coeur du processus. Elles sont un élément fondamental dans la conception des IA. Elles servent également de puissant outil de contrôle des populations. On le constate notamment en Chine.

Shoshana Zuboff, professeure à Harvard, expliquait que « nous pensions chercher sur Google, mais en réalité, c'est Google qui cherchait en nous ». Ces grandes entreprises possèdent une telle quantité d'informations sur nous qu'elles peuvent potentiellement exercer un contrôle sur nos comportements de manière inimaginable à l'époque des journaux, de la radio ou de la télévision. D'une précision inédite, elles sont capables d'agir sur les individus à une échelle sans précédent.

Je peux également évoquer les cyberattaques ayant touché les serveurs de Microsoft Exchange il y a quelques années. Si l'opinion générale y voyait une tentative d'espionnage destinée à récupérer des secrets industriels, l'objectif était tout autre. Ces attaques visaient en réalité à entraîner des systèmes d'intelligence artificielle pour les rendre plus performants et compétitifs au niveau mondial.

Il est aujourd'hui possible de créer des profils sur les réseaux sociaux en quelques fractions de seconde grâce à des outils permettant de sélectionner une multitude de critères. Ce processus peut se réaliser à une échelle industrielle.

Dans le même temps, il est intéressant de noter l'ampleur des suppressions de faux comptes sur des plateformes comme Facebook. Depuis 2017, des millions de comptes frauduleux - jusque 2,2 milliards - ont été supprimés chaque trimestre. À l'heure actuelle, on compte 700 à 800 millions de suppressions de compte par trimestre. Il apparaît clairement que les plateformes facilitent délibérément la création de comptes. Les « fermes à trolls » du peu regretté Evgueni Prigojine en ont tiré parti. Ces structures exploitent des systèmes d'intelligence artificielle capables d'interagir avec les utilisateurs en simulant des échanges humains de manière particulièrement convaincante.

Ainsi, il est possible de créer un mouvement d'opinion en faveur d'un candidat, de multiplier les messages de propagande et, grâce aux interactions obtenues, d'affiner les réponses en fonction des profils des destinataires. Ces techniques ont été utilisées dans des campagnes électorales récentes, notamment sur TikTok et en Roumanie, où une élection a dû être annulée en raison des manipulations dont elle avait fait l'objet.

Dans ce contexte, l'intelligence artificielle entraînera-t-elle une course au moins-disant démocratique dans les années à venir ? Si aucune réponse définitive ne peut être apportée à ce stade, les signaux d'alerte sont déjà préoccupants.

Trois libertés fondamentales, que nous pensions jusqu'alors inaltérables, se trouvent désormais menacées : la préservation de nos pensées privées, la protection contre la manipulation et l'absence de sanctions fondées uniquement sur nos idées. Nous avons longtemps considéré notre esprit et notre conscience comme des sanctuaires inviolables. Or, cette certitude s'effondre. Aujourd'hui, grâce aux courtiers en données, ou data brokers, il est possible d'obtenir des informations plus précises sur un individu que celles qu'il détient lui-même sur sa propre santé, ses comportements ou son profil psychologique. Les profils psychologiques établis à partir des données collectées sur les réseaux sociaux sont souvent plus détaillés que ceux qu'une personne peut percevoir de son conjoint, de ses collègues ou même de ses parents. Il devient ainsi manifeste que nos libertés fondamentales sont profondément remises en cause.

À titre d'illustration, le système de crédit social chinois effectue une notation des citoyens en fonction de leur comportement : respect des normes établies, contenu des publications sur les réseaux sociaux, relations avec le voisinage. Ce dispositif englobe des dimensions personnelles, psychologiques, financières et politiques. Un mauvais score occasionne des restrictions sévères : interdiction d'accès aux transports, refus de crédits pour des achats, impossibilité d'évolution professionnelle. L'individu se retrouve ainsi marginalisé au sein même de la société chinoise.

Ce type de mécanisme ne concerne pas uniquement des régimes autoritaires. Dominic Cummings, coordinateur de la campagne du Brexit, affirmait que le Royaume-Uni serait probablement resté dans l'Union européenne si Victoria Woodcock, responsable du déploiement d'un logiciel de microciblage, avait été renversée par un bus. Ce constat illustre l'impact décisif de ces outils sur des choix politiques majeurs.

Par ailleurs, la désinformation est désormais industrialisée. Pour 400 dollars par mois, vous pouvez aujourd'hui créer un réseau de robots capables d'inonder des millions d'internautes de messages ciblés, et d'y répondre de manière automatisée, sans intervention humaine. Autrefois, de telles campagnes nécessitaient de nombreux collaborateurs. Elles peuvent aujourd'hui être menées avec des moyens dérisoires. Cette réalité rejoint l'idée développée par Kate Crawford dans son Contre-atlas de l'intelligence artificielle, selon laquelle l'IA est devenue de la politique par un autre moyen. En effet, du fait de son influence sur l'opinion publique, la structuration des pensées et les secteurs stratégiques, économiques et militaires, l'intelligence artificielle s'impose désormais comme un outil politique à part entière. Il est donc crucial d'en saisir les enjeux : elle peut servir à renforcer les libertés, mais aussi, malheureusement, à exercer un contrôle accru sur les individus.

Trois événements ont marqué un tournant décisif dans l'utilisation de l'IA et ses implications politiques. En 1997, l'ordinateur Deep Blue a battu le champion du monde d'échecs, Garry Kasparov. En 2015, DeepMind, avec son programme AlphaGo, a vaincu l'un des grands maîtres du jeu de go, Fan Hui. En 2017, Vladimir Poutine a déclaré que l'intelligence artificielle représentait l'avenir, non seulement pour la Russie, mais pour l'humanité tout entière, et que la nation qui prendrait le leadership en matière d'intelligence artificielle dominerait le monde. Cette déclaration sous-entendait non seulement une suprématie militaire, mais également une domination sur les esprits, un enjeu crucial pour les régimes autocratiques et dictatoriaux.

Ces trois événements ont eu pour effet d'éveiller les consciences, en particulier au sein des nations rivales. Ainsi, après la victoire d'AlphaGo en 2015, la Chine a immédiatement élaboré un plan stratégique visant à placer l'intelligence artificielle au coeur de ses priorités de développement pour les années à venir.

De même, en 2017, la déclaration de Vladimir Poutine a suscité une prise de conscience aux États-Unis. Ben Buchanan, conseiller de l'administration Biden sur l'intelligence artificielle, a souligné l'impact de cette déclaration sur l'état-major américain qui a considéré qu'il était impératif d'empêcher la Russie ou la Chine d'acquérir une position dominante dans ce domaine.

Barry Pavel ajoutait que si la technologie a toujours influencé la politique internationale, l'essor de l'intelligence artificielle marque un tournant inédit : désormais, la technologie elle-même peut devenir un acteur géopolitique à part entière.

Ben Buchanan considère que l'IA améliorera les outils de l'arsenal de l'autocrate. Dans les autocraties, les préoccupations éthiques ne seront que des obstacles mineurs. Pendant longtemps, on a cru que les nouvelles technologies contribueraient à contourner les dictatures et à favoriser leur affaiblissement. Or, l'expérience des quinze dernières années tend à démontrer l'inverse. Ceux qui se souviennent des printemps arabes se rappellent sans doute qu'à l'époque, Hillary Clinton, alors secrétaire d'État, affirmait que les États-Unis avaient apporté aux peuples des outils de démocratisation et d'émancipation - Facebook et Twitter. Le recul historique incite cependant à nuancer cette vision.

Sur un autre plan, des recherches sont actuellement menées pour analyser les signaux cérébraux afin d'identifier les mots et les images mentales qui se forment directement dans le cerveau. Le sanctuaire de notre conscience, que l'on croyait inviolable, apparaît désormais menacé. Des entreprises telles que Neuralink, fondée par Elon Musk, développent des implants neuronaux destinés à interagir avec l'activité cérébrale, ce qui pourrait accentuer cette tendance.

Il convient enfin d'évoquer la problématique des deepfakes. Leur principal danger ne réside pas uniquement dans le fait que les individus pourraient être trompés par des contenus falsifiés. Le véritable risque est qu'à terme, plus personne ne croie en quoi que ce soit, y compris lorsque l'information est authentique.

Une vidéo est projetée.

Nous avons ici un exemple frappant d'une technologie permettant de modifier le visage d'un individu filmé pour lui conférer l'apparence de Morgan Freeman, avec un réalisme saisissant rendant toute détection quasi impossible. De même, cette photographie illustre une scène qui aurait pu exister, mais qui n'a jamais eu lieu, mettant en scène Martin Luther King et Donald Trump.

Si ces technologies peuvent paraître ludiques, leur utilisation dans un contexte électoral soulève de sérieuses questions. La capacité à créer des images ou des vidéos fictives attribuant à des personnalités publiques des déclarations ou des actes qu'elles n'ont jamais commis constitue un défi majeur.

Vous évoquiez précédemment la dimension quasi mystique que certaines personnes attribuent à l'intelligence artificielle. De nombreux experts s'accordent à dire que l'adhésion à l'IA peut revêtir une dimension quasi religieuse, certains allant jusqu'à suivre ses recommandations avec un aveuglement préoccupant. Cette propension naturelle de l'esprit humain pourrait être exploitée à l'avenir pour structurer de nouvelles idéologies ou même des cultes.

Examinons à présent quelques réalisations rendues possibles par l'intelligence artificielle générative. Un simple descriptif - qu'on appelle « prompt » - tel que « Une femme élégante marche dans une rue illuminée de Tokyo » suffit à générer une séquence animée de plusieurs secondes, d'un réalisme proche du cinéma. La part d'intervention humaine se réduit ainsi drastiquement, limitée à la formulation du texte initial.

Autre illustration marquante : une scène d'inspiration historique où l'on observe une reine évoluant dans une salle ornée d'or, plongée dans un climat de trahison et de paranoïa. Là encore, tout cela est généré à partir d'une simple série de mots. L'impact de ces avancées sur le marché du travail est indéniable : de nombreux métiers seront profondément transformés, et certains pourraient même disparaître. Plusieurs professionnels du cinéma estiment par exemple que les effets spéciaux traditionnels seront complètement redéfinis.

Autre application fascinante : une société néerlandaise a développé une technologie permettant de donner vie à des tableaux en animant les traits des figures représentées, ouvrant ainsi de nouvelles perspectives dans le domaine de l'art et du patrimoine.

Quelle réponse devons-nous apporter face à ces mutations technologiques ? La régulation est souvent mise en avant, mais nous devons dépasser cette approche défensive. Ayant moi-même contribué à l'élaboration de textes réglementaires, je pense qu'il est temps d'abandonner l'obsession exclusive de la régulation au profit d'une stratégie de développement ambitieuse pour notre écosystème technologique. Nous sommes fragiles si nous ne parvenons pas à structurer une réponse cohérente face aux deux grandes puissances que sont les États-Unis et la Chine, d'autant plus depuis l'élection récente de Donald Trump. Sa politique ne nous fera aucun cadeau. Une posture strictement défensive nous condamnerait à l'effacement. Selon Mario Draghi, cette inaction nous mènerait à une lente agonie européenne. Nous ne souhaitons pas ce destin. Reste à identifier les moyens à mobiliser pour inverser cette tendance.

Mariana Mazzucato, économiste de renom, rappelle avec pertinence qu'aucune des technologies intégrées à l'iPhone - internet, le GPS, les écrans tactiles ou Siri - n'aurait vu le jour sans des financements publics massifs de l'État fédéral américain. En Europe, nous avons fini par croire, à tort, que le marché pouvait se suffire à lui-même. Or, les États-Unis ont, depuis toujours, adopté une politique interventionniste pour stimuler l'innovation et asseoir leur domination technologique.

Vous faisiez référence tout à l'heure à Stargate, cette initiative soutenue par le gouvernement américain. Il convient également d'évoquer l'Inflation Reduction Act, qui constitue un instrument évident de distorsion de concurrence, notamment vis-à-vis des Européens. S'y ajoutent de nombreuses autres mesures d'intervention publique, telles que les dispositifs de défiscalisation mis en place pour favoriser l'implantation des usines Tesla ou encore les subventions directes et indirectes, ainsi qu'un levier particulièrement puissant aux États-Unis : la commande publique.

En 2023, la France a investi 1,69 milliard de dollars dans l'innovation, tandis que les États-Unis en ont investi 67,22 milliards. Entre 2013 et 2022, les États-Unis ont investi 249 milliards de dollars, et la France, seulement 7 milliards.

Si nous ne prenons pas des mesures pour accompagner le développement de nos propres technologies stratégiques, au premier rang desquelles figure l'intelligence artificielle, nous nous enfermerons dans ce que certains analystes désignent déjà comme une « trappe à médiocrité technologique », qui semble caractériser l'Europe ces dernières années. Le contraste est saisissant, surtout si l'on considère que l'Europe est l'un des plus grands marchés de consommation au monde. Elle doit investir massivement dans ses propres technologies stratégiques, à commencer par l'intelligence artificielle.

Le rapport Draghi tire des conclusions sévères, voire alarmantes. L'Europe est aujourd'hui la région du monde la plus ouverte et la plus dépendante. Nos coûts énergétiques sont deux à trois fois plus élevés que ceux de nos concurrents américains ou chinois. Nous accusons un retard technologique considérable, puisque 80 % des technologies que nous achetons sont extra-européennes. Notre ratio commerce-PIB est supérieur à celui des États-Unis et de la Chine. De plus, seules quatre des cinquante premières entreprises technologiques mondiales sont européennes.

En matière de défense, l'Europe demeure très en deçà des engagements initialement prévus, à l'exception de quelques pays comme la Pologne ou la France, qui atteint désormais le seuil des 2 % du PIB consacrés à ce secteur. L'ensemble de ces éléments souligne notre dépendance et la nécessité de structurer une stratégie alternative qui soit à la fois protectrice et génératrice de développement. C'est dans cette perspective que s'inscrivent nos recommandations.

La première d'entre elles s'appuie sur la proposition de Mario Draghi en faveur d'un investissement européen commun. En tant qu'ancien négociateur européen, je sais que cette idée pouvait sembler utopique il y a quelques années. Pourtant, la crise du Covid-19 a changé la donne : à cette occasion, l'Allemagne a accepté le principe d'un investissement commun à hauteur de 750 milliards d'euros. Aujourd'hui, Mario Draghi propose un effort encore plus ambitieux : un programme de 800 milliards d'euros par an, renouvelable, soit 5 % du PIB européen, destiné à soutenir les filières stratégiques.

Il est impératif de mobiliser des ressources à la fois politiques et financières afin d'assurer le développement de nos industries technologiques. Parmi les leviers essentiels figure la commande publique, qui joue un rôle moteur aux États-Unis depuis la mise en place du Small Business Act en 1953. Ce dispositif, inexistant en Europe, oriente une part significative des marchés publics vers les petites et moyennes entreprises. De même, un European Buy Act, ciblant les entreprises stratégiques les plus sensibles, pourrait constituer une réponse efficace au déséquilibre actuel.

Si un sursaut politique et citoyen ne se produit pas rapidement, l'Europe s'engagera dans une trajectoire d'effacement sur les plans politique, stratégique et économique. Sommes-nous prêts à l'accepter ? Nous donnerons-nous les moyens de renverser cette tendance ?

À cet égard, le rapport Letta évoque une proposition intéressante : la création d'un 28^e pays virtuel, permettant aux entreprises d'évoluer dans un cadre juridique unifié, à défaut d'un véritable marché unique du numérique. Y harmoniser les réglementations fiscales et légales permettrait de lever les obstacles actuels au développement des entreprises européennes.

L'enjeu est de taille, et il appartient à chacun d'entre nous d'en être conscient et d'agir en conséquence.

M. Jean-François Rapin, président de la commission des affaires européennes. - La réponse financière se trouve sur les marchés capitaux, qui présentent un réel potentiel.

M. Jean-Marie Cavada, président de l'Institut des droits fondamentaux numériques (iDFRights) et député européen honoraire. - Bonjour à tous. Merci d'avoir organisé cette audition. Je connais bien cet hémicycle qui, par sa nature, permet de prendre le temps d'une réflexion approfondie, afin de formuler des analyses pertinentes et d'envisager des solutions adaptées.

Le professeur Bernard Benhamou a brillamment exposé les évolutions progressives que nous observons et les nombreuses questions qu'elles soulèvent. Je serai bref, car l'essentiel de ce rapport est déjà bien exposé. Nous en ferons bientôt une présentation publique, afin de sensibiliser un large public aux enjeux qu'il soulève.

Nous sommes aujourd'hui confrontés à une rupture, à l'émergence d'un nouveau monde. Or, par essence, lorsqu'un changement d'une telle ampleur survient, il est difficile d'en mesurer immédiatement toutes les conséquences. Nous manquons du recul nécessaire pour anticiper précisément ce qui adviendra, et encore plus pour déterminer s'il convient de combattre cette transformation, de l'accompagner ou de l'organiser.

Pour la première fois dans l'histoire de l'humanité, l'homme a conçu des machines qui lui sont utiles, mais qui désormais se servent de lui. L'humain devient ainsi la matière première de son propre service. Je me permets de rappeler les propos d'un ancien dirigeant de Google, qui, en quittant l'entreprise, déclarait : « Lorsque l'on vous dit que ces services ou ces données sont gratuits, c'est en réalité que vous êtes le produit. »

Aujourd'hui, ce n'est plus seulement l'individu, mais bien l'humanité tout entière qui devient la proie potentielle d'un système qui tend à la dépasser. Cette dynamique s'immisce au plus profond de nos activités, de nos pensées et même des dimensions les plus inconscientes de notre être. Face à cela, il nous faut faire preuve de lucidité et de réalisme.

Nous, Européens, avons longtemps considéré que les atteintes aux valeurs qui nous guident devaient être repoussées, maîtrisées ou sanctionnées. Ce principe demeure. Pourtant, depuis près de vingt ans, nous sommes victimes d'une stratégie marketing subtile, déployée par des monopoles technologiques américains. Ce n'est pas parce que nous sommes liés aux États-Unis par des alliances historiques, notamment militaires - lesquelles sont aujourd'hui remises en question -, que nous devons nous interdire toute analyse critique. Rappelons que les États-Unis sont entrés à deux reprises en guerre au XX? siècle avec un retard de deux ans sur la déclaration officielle des conflits, et que ces engagements répondaient à des logiques économiques évidentes.

Ces vérités doivent être dites et repensées à l'aune des transformations actuelles. Nous constatons en effet que l'ordre économique mondial issu de 1944, forgé à Bretton Woods, est en train de vaciller. Ce déséquilibre est déjà perceptible, et sera amplifié par l'émergence de nouvelles dynamiques, notamment de la monnaie numérique. Il est d'ailleurs manifeste que la nouvelle présidence américaine ambitionne d'en faire un levier stratégique, voire un outil d'influence. Nous assistons à l'accumulation d'une richesse qui, fondamentalement, demeure abstraite. Elle ne repose ni sur la production d'objets ni sur la fourniture de services concrets. Elle donnera lieu à des spéculations d'une ampleur considérable, susceptibles de bouleverser l'ordre mondial et de provoquer des bulles économiques dont l'ampleur pourrait reléguer la faillite de Lehman Brothers au rang de simple terrain d'essai.

Un autre facteur de rupture réside dans l'évolution des stratégies militaires. Sera-t-il encore nécessaire, dans les années à venir, de déployer des forces armées sur les continents pour assurer la défense nationale ou l'expansion géopolitique, telles que nous les connaissons aujourd'hui ? Plusieurs technologies émergentes permettent déjà de limiter l'engagement des vies humaines tout en assurant la soumission des adversaires.

Le panorama présenté ce matin, loin d'être une vue de l'esprit, correspond à une réalité tangible. Certains pourraient juger que ces perspectives relèvent d'une peur irrationnelle ou de projections infondées. Pourtant, ces évolutions sont d'ores et déjà en cours. Dès lors, quelles en seront les conséquences et quelles responsabilités incombent aux décideurs publics, et en particulier aux sénateurs ? Il convient de repenser la notion de souveraineté à la lumière de ces bouleversements.

Pendant longtemps, nous avons été exposés à une propagande insidieuse orchestrée par les monopoles américains. Il y a plus d'un siècle, le sénateur Sherman affirmait que les monopoles étaient les véritables ennemis de la démocratie. Cette mise en garde trouve aujourd'hui un écho inquiétant. Ce n'est pas tant l'industrie numérique en elle-même qui pose problème, mais bien sa configuration et l'usage qui en est fait pour accumuler du pouvoir et influencer les comportements.

Les grands monopoles, en pleine expansion, s'apprêtent à pénétrer le secteur économique pour en prendre le contrôle. Ils s'infiltrent également dans le domaine de la défense, menaçant de remodeler cet espace stratégique. En outre, ils détiennent désormais une connaissance approfondie des désirs et des comportements individuels, leur permettant de manipuler les préférences et de provoquer l'obéissance des citoyens.

Les goûts des consommateurs sont étudiés, stimulés par une publicité ciblée et omniprésente, échappant aux régulations classiques. Ces mêmes entités, à la fois détentrices de nos données et acteurs du marketing, deviennent leurs propres agences publicitaires, maîtrisant ainsi les ressorts de nos comportements. Cette emprise dépasse la simple sphère commerciale et remet en cause les fondements du vivre-ensemble, les principes de respect mutuel qui ont structuré nos sociétés depuis la fin de la Seconde Guerre mondiale.

Enfin, il apparaît de manière flagrante que les monopoles technologiques, et en particulier les systèmes d'intelligence artificielle générative, sont désormais capables de défier l'autorité des États, voire de se soustraire complètement à leur contrôle. Voyez, par exemple, la résistance affichée par la Maison-Blanche à l'encontre des initiatives européennes de régulation de l'IA, pourtant encore en cours d'élaboration. Il y a environ trois semaines, un conseiller proche du nouveau Président des États-Unis a même averti que toute persistance de notre part dans cette voie réglementaire pourrait remettre en cause les fondements des relations transatlantiques, y compris le cadre de l'OTAN.

De telles menaces, proférées pour protéger les intérêts de conglomérats technologiques, n'avaient jamais été formulées, même durant la Guerre froide ou sous la pression des puissances soviétique et chinoise. Nous assistons à l'émergence de monopoles qui, par leur envergure, se comportent comme de véritables États, imposant leurs volontés aux gouvernements démocratiquement élus.

De quels atouts disposons-nous ? Je ne suis pas un fervent défenseur de l'approche exclusivement défensive adoptée par l'Europe. Non pas qu'elle soit dénuée de mérite, mais elle ne couvre pas l'ensemble des enjeux. La meilleure preuve en est le marketing intensif déployé sur le continent, à grand renfort de centaines de millions d'euros depuis 2015-2016. J'en ai été directement témoin lorsque j'ai oeuvré pour l'adoption du règlement général sur la protection des données (RGPD), du droit d'auteur ou encore du droit voisin, engagement qui m'a valu des menaces personnelles et sur ma famille. Il ne s'agissait pas d'intimider ma personne en particulier, mais bien d'empêcher l'imposition d'une obligation de partage des revenus et d'un cadre plus contraignant pour ces acteurs dominants.

L'argumentaire marketing employé consistait à affirmer que toute régulation constituait un frein à l'innovation. Cette assertion est fausse, mais elle contient néanmoins une part de vérité. Les obstacles à l'innovation ne relèvent pas des principes politiques de régulation, mais bien d'une myriade de normes que nous avons empilées, pensant, à tort, qu'elles suffiraient à contenir un océan en érigeant de simples digues.

Une régulation politique digne de ce nom doit se situer à l'échelle d'un véritable État, voire d'un super-État. Or, en Europe, notamment en France et aux Pays-Bas, ce type de réflexion demeure un tabou. Pourtant, il faut poser ces questions sans détour afin que chacun en saisisse l'enjeu. La bataille géopolitique qui s'annonce est relativement simple à appréhender : trois grandes puissances se dessinent, auxquelles s'ajoutera peut-être un quatrième acteur. L'Afrique est pour l'heure davantage un marché de consommation qu'un pôle de production technologique, mais il gagnera en influence à l'avenir. Les trois autres continents, en revanche, sont déjà des acteurs majeurs, développant des technologies et des industries à grande échelle.

La vision défendue par Enrico Letta et Mario Draghi ne relève pas de la fiction, mais bien d'une nécessité. Nous accusons déjà un retard de plus d'une décennie. Sans autorité politique européenne forte, nous n'aurons ni les moyens de mobiliser les financements nécessaires, ni la capacité de générer les entreprises indispensables à notre souveraineté économique et technologique.

En France, évoquer une autorité politique supranationale suscite encore des craintes irrationnelles. Certains imaginent un « super-ordinateur » gouvernant d'une main de fer les consciences des 450 millions d'Européens. Pourtant, si l'on observe des modèles tels que la Suisse, l'Australie, le Canada ou le Brésil, on constate que ces pays ont su organiser une répartition des compétences entre différents niveaux de pouvoir, sans pour autant anéantir les autonomies locales, régionales et nationales. Ce principe d'organisation emboîtée permet aux collectivités d'exercer leurs prérogatives, aux régions de jouer leur rôle, à l'État d'assumer les responsabilités qui lui incombent et, enfin, à une autorité continentale de prendre en charge ce qu'aucun échelon inférieur ne saurait gérer efficacement.

C'est là la véritable question : comment structurer un pouvoir régalien capable de financer des projets d'envergure, à l'image de ce que nous avons déjà expérimenté lors de la crise du covid ? Il s'agit de bâtir une capacité de défense, de créer un écosystème technologique européen qui, par nature et par héritage historique, respecterait un socle de valeurs fondamentales. Un tel système ne s'ingérerait pas dans les affaires des échelons subalternes, mais remplirait une fonction stratégique essentielle.

Pourquoi, dès lors, nous trouvons-nous face à une machine bruxelloise produisant des normes et des règlements souvent mal appliqués ? Parce que nous ne nous donnons pas les moyens d'en garantir l'exécution, et que le pouvoir politique supranational fait défaut. Lorsque l'on évoque le Conseil de l'Union européenne, on parle d'une instance où coexistent des visions diamétralement opposées, conduisant à des décisions fluctuantes, à des blocages et à des applications disparates. Ce chaos rappelle parfois les querelles d'une cour de récréation. Or, il faudra tôt ou tard y mettre un terme. Espérons que cela se fera de manière pacifique et démocratique, conformément à nos principes.

Enfin, le dernier outil régulateur mis en place, ou du moins censé l'être, est le règlement européen sur l'intelligence artificielle, l'AI Act. Je rappelle que contrairement aux directives européennes - qui doivent être transposées dans le droit national de chaque État selon ses traditions juridiques -, un règlement s'applique directement dans tous les États membres dès son adoption. Cette disposition est essentielle, car elle garantit une uniformité d'application et évite les disparités qui affaiblissent trop souvent l'action européenne.

L'AI Act a bien été voté, mais il demeure inachevé pour une raison évidente. Ce texte est incomplet et, surtout, tardif : il a été pris de court par l'émergence d'OpenAI le 22 novembre 2022. À ce jour, il reste en discussion, car Bruxelles a trouvé le moyen de rouvrir le débat après le vote souverain du Parlement en invoquant des lignes directrices d'application et, surtout, le processus des trilogues. Équivalents d'un décret d'application en France, ils ne relèvent pas du seul pouvoir exécutif. Trois instances - la Commission, le Parlement et le Conseil - négocient la mise en oeuvre des textes adoptés. Or, la technocratie bruxelloise a réussi, de manière sournoise et presque contraire à la légalité, à introduire des « conférences de lignes directrices », prétendument destinées à appliquer les décisions du Parlement. Elles sont en réalité utilisées pour en modifier la substance.

J'en ai fait personnellement l'expérience lors du vote sur le droit d'auteur et les droits voisins : il a fallu près d'un an pour rétablir le texte dans l'esprit initial voulu par les parlementaires.

Treize comités travaillent sur l'intelligence artificielle. Onze d'entre eux sont, en partie du moins, influencés par des acteurs para-officiels, des représentants des grandes entreprises technologiques américaines ou encore certains universitaires qui regardent avec bienveillance l'hégémonie des modèles américains. Ainsi, l'exécutif européen n'est tout simplement plus à la hauteur des enjeux actuels.

Il faudra donc s'attaquer à cette dérive. Cependant, nous n'y parviendrons pas seuls, avec notre seule volonté politique. La véritable question est celle de la pédagogie des peuples. Hélas, des événements graves devront survenir pour que nous prenions enfin la mesure de la situation. Le rapport d'Enrico Letta et les travaux de Mario Draghi constituent une alerte précieuse : ils ne font que souligner un retard de près d'une décennie. Les véritables bouleversements ont commencé au début des années 2010.

Nous sommes aujourd'hui dans une situation de colonisation économique et technologique, une forme d'impérialisme. Ce constat est certes désagréable, mais il est nécessaire. J'ai vécu aux États-Unis. J'en ai apprécié les contre-pouvoirs qui bénéficient aux citoyens. Mais, depuis le milieu des années 1970, un déséquilibre progressif a modifié cette dynamique, et un désir d'impérialisme s'est affirmé.

Pour la première fois, avec l'administration Trump, nous voyons émerger une stratégie délibérée visant à instrumentaliser la technologie pour faire des autres grands continents - et notamment l'Europe - le marché principal, que l'on ponctionne afin d'accroître la richesse américaine. Nous sommes dramatiquement mal préparés pour faire face à ce danger.

Certains diront que cette situation est inévitable. Pourtant, comment expliquer qu'un pays comme la France - qui, parmi les 27 États membres, dispose de l'une des plus grandes écoles de mathématiques au monde et forme des ingénieurs de très haut niveau - peine à faire émerger des champions technologiques ? La France a produit des médaillés Fields. Pourtant, le directeur de la recherche de l'un des plus grands monopoles technologiques américains, Yann LeCun, est lui-même français. Il a dû partir, parce que les conditions nécessaires au développement de ses recherches n'existaient pas en France. Nous n'avons pas su accompagner ces talents, soutenir leurs découvertes et favoriser l'essor de leurs entreprises.

Je ne dis pas que certaines de ces réglementations protectrices ne sont pas nécessaires, mais il est désormais évident qu'elles ne suffiront plus. Le chiffre de 1,9 % d'investissement, cité tout à l'heure par Bernard Benhamou, est une gifle d'une telle ampleur que l'on pourrait presque, dans un élan défaitiste, conclure que la bataille est perdue d'avance.

Toutefois, l'histoire nous enseigne que l'on ne perd que les combats que l'on n'a pas engagés. Le moment est venu d'agir et de les mener.

M. Jean-François Rapin, président de la commission des affaires européennes. - Avec la séquence de Star Trek diffusée lors de votre intervention, nous nous interrogeons sur le déploiement d'intelligence humaine qu'il a fallu pour que l'IA sauve la vie de l'individu. J'imagine que nous assisterons à une bascule lorsque l'IA sera plus intelligente que l'humain.

Je pense à l'aviation, domaine dans lequel le risque humain est toujours mis en avant lors d'un accident, sans penser au risque lié à la machine. Dans la saga Terminator, l'IA prend le pas sur l'intelligence humaine et pilote le monde. Avons-nous déjà passé ce cap, après lequel la technologie se sauvera elle-même ?

M. Patrick Chaize, président du groupe Numérique. - N'existe-t-il pas une vraie différence entre l'intelligence artificielle applicative et l'intelligence artificielle générative ? J'aimerais connaître votre avis sur la notion de responsabilité adossée à l'IA.

Ensuite, avez-vous des recommandations pour encadrer et réguler l'IA ? À quelle échelle ?

Nous n'avons pas parlé de son impact environnemental, ni des biais et discriminations qu'elle embarque. Que pouvez-vous nous dire à ce propos ?

Enfin, le sujet est-il suffisamment porté politiquement ?

Mme Sylvie Vermeillet. - J'adhère pleinement aux recommandations que vous avez formulées. L'urgence de la situation impose d'agir sans tarder face aux défis qui se dressent devant nous. Il me semble que la priorité absolue réside aujourd'hui dans la préservation de nos démocraties.

Nous avons déjà frôlé le pire à plusieurs reprises, face à la montée en puissance de courants populistes à travers le monde. La France n'échappe pas à cette tendance préoccupante. Je suis convaincue que ces poussées ne résultent pas uniquement des résultats politiques des gouvernements successifs mais qu'elles sont également le fruit de manipulations insidieuses, déjà à l'oeuvre depuis plusieurs années.

Le Sénat s'attache à accomplir un travail de qualité. Nous élaborons des textes de loi réfléchis, nous engageons des discussions approfondies et nous nous efforçons d'apporter des réponses adaptées aux enjeux contemporains. Or, pendant que nous nous consacrons à cet effort législatif, les stratégies de désinformation et de manipulation orchestrées par certains acteurs du numérique - des « ingénieurs du chaos » - progressent à un rythme inquiétant. Il me semble impératif d'accorder à cette menace une attention immédiate, avant même de nous concentrer sur d'autres réformes budgétaires ou économiques. Lorsque les partis démocratiques auront été affaiblis au point de ne plus constituer un rempart efficace, il sera trop tard pour agir.

Lors des campagnes électorales, un candidat peut adresser un message différent à chaque électeur, diffusant 68 millions de discours distincts façonnés sur mesure pour séduire chaque individu. Disposons-nous de moyens techniques et juridiques pour contrer ces pratiques ? Peut-on confondre un candidat qui, au gré de son interlocuteur, affirme tout et son contraire ? La distinction entre le vrai et le faux demeure une notion essentielle en Europe, là où certaines sociétés ont déjà basculé dans l'indifférence généralisée face à la véracité des faits.

Disposons-nous de solutions concrètes pour identifier et dénoncer ces incohérences discursives ? Est-il techniquement possible de révéler ces manipulations, afin d'éviter que notre débat démocratique ne soit perverti par des discours artificiellement façonnés pour séduire, au détriment de la vérité ?

M. Pierre Ouzoulias. - Nous sommes confrontés à un sujet qui nous déborde. Je suis horrifié par ce qui traverse l'océan Atlantique, que certains en Europe nous présentent comme une guerre de libération de la parole, et non comme l'asservissement qu'il est. La réaction de la Commission européenne pourrait être qualifiée de munichoise. Comment pouvons-nous dialoguer et négocier sur ce qui constitue les fondements civilisationnels de l'Union européenne, à savoir la défense de la démocratie ? Nous devons prendre la mesure des enjeux et défendre ce qui constitue le coeur de notre civilisation, la démocratie.

Nous parlons d'intelligence artificielle, certes, mais de quel type d'intelligence ? Elle est fondée sur un outil statistique qui recense des opinions générales et considère que c'est sur la plus répandue qu'il faut fonder un discours génératif. Je pense sincèrement que l'article d'Einstein sur la relativité, publié en 1905, n'aurait pas été pris en compte par cet outil, car il était isolé, qu'il n'était pas lu, jamais cité, et incompris. L'IA serait donc passée à côté de ce qui constitue aujourd'hui un élément majeur de notre évolution.

Dans ce contexte, ne pourrions-nous pas être plus intelligents qu'eux - vous voyez à qui je fais référence - et passer à l'étape suivante, le quantique ? Un investissement massif sur cette révolution, dont les apports me semblent supérieurs à ceux de l'intelligence artificielle, me paraît nécessaire. Ne pourrions-nous pas prendre un temps d'avance pour reprendre une prédominance face aux évolutions en cours ?

Mme Karine Daniel. - Dans quelques jours, la France accueillera un sommet consacré à l'intelligence artificielle. Avant même son ouverture, cet événement suscite une forme de déception, notamment en raison de la concurrence internationale et des annonces faites aux États-Unis par l'administration Trump. Il intervient également dans un contexte budgétaire particulièrement contraint, où les réductions des crédits alloués à l'enseignement supérieur et à la recherche suscitent de vives inquiétudes.

Dès lors, que peut-on réellement attendre de ce sommet ? Quels engagements concrets en résulteront, tant sur le plan financier que politique ? Quelle sera son envergure réelle ? Ne risque-t-il pas de manquer de l'impulsion nécessaire, alors même que ces enjeux devraient, a minima, être abordés à l'échelle européenne ?

Mme Catherine Morin-Desailly. - Votre présentation, de qualité, illustre un travail de fond engagé depuis de nombreuses années, à travers les positions que vous avez adoptées et les alertes que vous avez su formuler à maintes reprises.

Nous sommes à quelques jours de l'ouverture du sommet sur l'intelligence artificielle. Hier encore, nous demandions au ministre Jean-Noël Barrot si cet événement ne se transformerait pas en une simple mise en scène destinée à dérouler le tapis rouge à Elon Musk et à ses partenaires. Ne risque-t-il pas, par cette approche, de préempter le débat ?

Les premières fuites concernant les conclusions de ce sommet laissent craindre qu'il se limite à une série de déclarations d'intention, sans qu'aucune décision concrète ne soit prise en faveur d'une réelle indépendance technologique de la France et de l'Europe. Cette absence de vision stratégique et d'affirmation d'une véritable politique industrielle va, hélas, à l'encontre des préconisations que vous avez formulées.

Au sein de cette assemblée, nous avons toujours défendu l'idée d'une régulation efficace. Elle constitue une condition essentielle pour garantir une innovation équitable et permettre à nos entreprises de rivaliser à armes égales avec les géants technologiques qui ont envahi notre espace européen. Pourtant, l'absence de politique industrielle depuis tant d'années se révèle aujourd'hui désastreuse.

Nous assistons à une véritable bataille homérique entre les États-Unis et la Chine, où les annonces d'investissements en intelligence artificielle se succèdent à un rythme effréné. Dans ces conditions, est-il réaliste de penser que nous disposons encore des moyens de mobiliser les financements nécessaires en Europe pour faire émerger nos propres technologies, en accord avec nos valeurs et nos exigences éthiques ? Sommes-nous en mesure de sortir des dépendances stratégiques dans lesquelles nous nous sommes enfermés, parfois volontairement ?

Enfin, comment parvenir à convaincre la classe politique française de la nécessité impérieuse d'adopter une stratégie claire en la matière ? Depuis des années, nous ne cessons d'alerter sur ces enjeux et d'interroger nos représentants sur la position qu'ils défendent au sein du Conseil européen. Or, force est de constater que les résultats demeurent insuffisants.

Enfin, sur quels États européens pourrions-nous nous appuyer afin de susciter un sursaut collectif et amorcer un mouvement de prise de conscience à l'échelle de l'Union ?

M. Vincent Louault. - Je suis en contact avec une équipe américaine qui travaille sur les enjeux de l'IA liés à l'enfance. J'ai la conviction profonde que l'avenir repose sur l'éducation. Si nous ne nous attelons pas à cette question fondamentale, nous courons à notre perte.

Si nous faisons face à une génération d'enfants dont les capacités cognitives et éducatives s'amenuisent, toute régulation sera vaine. Ces chercheurs m'ont rapporté une expérience marquante : des enfants de huit ans, après avoir utilisé des casques de réalité virtuelle leur donnant l'illusion de nager aux côtés de baleines, se jetaient dans une piscine le lendemain en étant convaincus de savoir nager. Neuf enfants sur dix reproduisaient ce comportement, avec les conséquences dramatiques que l'on peut imaginer.

L'enjeu de demain est donc d'investir dans l'éducation dès le plus jeune âge, d'y placer des garde-fous clairs et de réfléchir aux impacts des nouvelles technologies sur le développement cognitif des enfants. Car l'intelligence artificielle, ce sont aussi ces avatars capables d'adopter le visage d'un proche disparu, recréant ainsi des interactions artificielles qui pourraient altérer profondément la construction psychologique des jeunes enfants. Imaginer un enfant de deux, trois ou quatre ans grandissant dans un univers où l'immortalité numérique devient une norme soulève des dangers considérables.

Mme Florence Blatrix Contat. - Vous avez évoqué l'omniprésence des grands monopoles technologiques, leur influence sur nos économies, sur la défense et, plus largement, sur nos vies. Vous avez également mentionné la fin du système de Bretton Woods tel que nous l'avons connu, posant ainsi la question cruciale de notre souveraineté monétaire.

Vous avez rappelé que la régulation constitue un levier d'action, notamment à travers le règlement encadrant les marchés de crypto-actifs (MiCA). Toutefois, un autre chantier mérite toute notre attention : le développement des monnaies numériques de banques centrales, et en particulier l'euro numérique. Or, nous constatons aujourd'hui certaines réticences de la part d'acteurs bancaires, freinant son déploiement malgré son importance stratégique.

Pensez-vous que nous devrions accélérer la mise en place de l'euro numérique ? Peut-il constituer un véritable outil de consolidation de notre souveraineté monétaire dans un monde en pleine mutation ?

Mme Annick Billon. - L'IA est-elle sexiste ? J'ai le sentiment qu'elle l'est, dans les représentations que nous en avons. Je n'ai pas l'impression que les entreprises s'associant à des puissances politiques soient très défenseures des droits des femmes et de l'égalité.

Messieurs Benhamou et Cavada hochent la tête.

M. François Bonneau. - Thierry Breton était auditionné hier par la Commission des affaires européennes, et ses propos faisaient écho aux vôtres. Il insistait notamment sur la nécessité de ne pas réduire l'Europe à une instance de régulation et de production de normes. Pour autant, il me semble essentiel de rappeler que des règles doivent exister et qu'elles constituent un cadre nécessaire à la protection de nos sociétés.

Dans votre intervention, vous avez évoqué le système de crédit social en Chine, qui, à juste titre, apparaît comme une dérive particulièrement inquiétante. Toutefois, il est intéressant de noter que les autorités chinoises encadrent également l'usage des réseaux sociaux par les jeunes, ce qui peut produire certains effets bénéfiques.

Dès lors, ne serait-ce pas précisément sur ce point que l'Europe pourrait se distinguer en proposant un modèle d'intelligence artificielle éthique et responsable, évitant ainsi les dérives que nous observons ailleurs ?

M. Jean-Marie Cavada. - Le Sommet de l'IA, qui ouvrira ses portes à Paris les 10 et 11 février, sera suivi d'une conférence-débat avec des chercheurs américains dans le cadre du programme « Everyone AI ». Cette rencontre se tiendra dans un salon de Microsoft, preuve, s'il en fallait, que certaines grandes entreprises technologiques ne sont pas systématiquement perçues comme des menaces.

L'enjeu ne relève pas tant de l'intelligence artificielle elle-même que de la logique de puissance qui l'accompagne, et qui a déjà franchi des seuils préoccupants sous l'impulsion des monopoles. Pendant vingt ans, les États-Unis ont dénoncé ces monopoles tout en affirmant vouloir les combattre. Pourtant, la dernière action significative menée par l'État fédéral américain, via la Federal Trade Commission (FTC), remonte à plus de vingt ans, lors de l'affaire AT&T.

Dans une économie censée être soumise à une stricte surveillance en matière de concurrence, il est frappant de constater qu'on a laissé se constituer des concentrations économiques au point de remettre en cause le rôle même des États. Par ailleurs, les États-Unis sont le seul pays dont la législation soumet le monde entier dans la pratique du numérique. La Section 230, adoptée sous l'administration Clinton en 1996, empêche aujourd'hui de tenir pour responsables les plateformes qui permettent la diffusion de contenus problématiques, y compris lorsqu'ils incitent à des actes irréparables. À l'inverse, dans nos démocraties européennes, et en particulier en France, toute communication publique engage la responsabilité de son auteur ou de son diffuseur.

Cela traduit une forme d'impérialisme juridique : par une simple loi, relayée par une domination technologique, les usages numériques d'environ six milliards d'individus à travers le monde se trouvent influencés, voire dictés.

Je ne souhaite ni combattre, ni calomnier le Sommet sur l'IA, bien qu'il me laisse insatisfait sur de nombreux points. Il a néanmoins le mérite d'éveiller l'attention des chefs d'État qui y participeront. Parmi eux, ceux issus de l'Union européenne doivent comprendre que l'heure n'est plus au repli national ni aux clivages exacerbés. L'unité est une condition indispensable pour agir efficacement. Sans cette prise de conscience, nous risquons de nous enliser dans des tentatives vaines.

Je tiens également à exprimer ma stupéfaction face à la faible place accordée aux fabricants de contenu. Cette industrie, qui représente une richesse considérable, se trouve marginalisée dans les débats. Il est aisé de comprendre quels intérêts sont en jeu et quelles forces influencent cette mise à l'écart. Rappelons que les grandes plateformes numériques sont courtisées au plus haut niveau, y compris par des dirigeants d'envergure internationale, ce qui contribue à façonner l'agenda du Sommet.

Cela étant dit, ce rendez-vous constitue malgré tout un moment de communication publique et de sensibilisation. Il permet de poser des questions essentielles.

M. Bernard Benhamou. - Sur la question de l'intelligence artificielle générale, le débat fait rage au sein de la communauté scientifique. La possibilité d'une IA capable d'égaler, voire de surpasser l'intelligence humaine en tout point reste incertaine. Pour autant ce que nous appelons le « sens commun », sans même parler de conscience, demeure totalement étranger aux IA actuelles. Vous avez sans doute entendu parler du phénomène dit d'« hallucination » dans les réponses des IA génératives. D'un point de vue scientifique, tout ce qu'une IA générative produit relève de l'hallucination. L'IA elle-même n'a aucun moyen de savoir si elle dit la vérité ou non. Quant au fantasme d'une super-IA façon Terminator, nous pouvons, pour l'instant, dormir sur nos deux oreilles.

C'est bien davantage la menace démocratique qui doit nous préoccuper, en particulier en Europe. L'hypothèse d'une IA omnipotente dominant l'humanité relève davantage de la fiction que d'une réalité à court terme. En revanche, les risques liés à l'utilisation abusive et mal encadrée de ces technologies sont, eux, bien concrets.

Concernant la distinction entre les IA classiques et génératives, je ne rentrerai pas dans les détails techniques. Jean-Marie Cavada a évoqué le travail de Yann LeCun, l'un des pionniers du deep learning. Je ne reviendrai pas sur l'histoire, mais il existe aujourd'hui des outils d'optimisation et d'adaptation très performants dans des domaines aussi variés que l'industrie, les transports ou la gestion énergétique. Depuis longtemps, l'IA est utilisée pour optimiser, prévoir et assurer la maintenance d'infrastructures complexes. Ces usages sont largement maîtrisés.

La véritable nouveauté réside aujourd'hui dans l'intégration de l'IA dans des processus d'aide à la décision, y compris dans des domaines longtemps considérés comme inaccessibles aux machines. Lorsqu'on a introduit la robotique, on pensait qu'elle concernerait d'abord les tâches les plus simples, les plus répétitives et les moins qualifiées. Beaucoup ont cru qu'il en irait de même pour l'IA. Or, cet outil s'introduit désormais dans des sphères hautement stratégiques et décisionnelles.

Le danger réside alors dans la confiance excessive et parfois aveugle que nous accordons à ces technologies. Une forme de suivisme s'installe, conduisant certains à se fier sans discernement aux avis des IA, y compris dans des domaines où elles ne devraient pas être utilisées. Le cas le plus critique concerne la prise de décision militaire. Certains experts, y compris parmi les plus technophiles, mettent en garde contre toute tentation d'intégrer l'IA dans les processus décisionnels liés à l'usage de l'arme nucléaire.

Enfin, s'agissant du risque populiste, plusieurs interventions ont mis en avant la manière dont les régimes autoritaires savent parfaitement exploiter ces outils à leur avantage. Nous devons également nous interroger sur le développement de certaines technologies encore émergentes, comme la réalité virtuelle. Ces environnements immersifs fragmentent la perception du réel : dans un univers virtuel, chacun peut être exposé à des contenus différents, sans jamais savoir ce que voit son voisin. Cette capacité à moduler les perceptions en fonction des profils des utilisateurs ouvre la voie à une manipulation sans précédent, jouant sur les émotions et les idées de chacun de manière ciblée et extrêmement sophistiquée.

Un scientifique cité dans notre rapport souligne que les manipulations politiques que nous avons connues jusqu'à présent ne sont rien en comparaison de ce qu'elles pourraient devenir lorsque les individus seront immergés dans des univers numériques partagés, bien au-delà des réseaux sociaux traditionnels comme TikTok ou X. Dans ces univers partagés, il sera possible de capter et d'analyser les réactions émotionnelles des utilisateurs en temps réel, ouvrant la porte à des techniques de manipulation d'une ampleur inédite. Je me permets ici de rappeler l'ouvrage Nexus de Yuval Noah Harari, qui exprime ses craintes quant à une colonisation des esprits par l'IA, qu'il qualifie de hacking culturel. Il met en garde contre la possibilité que ces technologies ne façonnent une nouvelle culture, influençant nos pensées et nos émotions bien au-delà de ce que nous pouvons imaginer aujourd'hui.

Ensuite, notre rapport aborde en effet le quantique. Nous y citons le travail remarquable du prix Nobel français Alain Aspect. Il déclarait ne pas être certain que l'ordinateur quantique tel que nous l'imaginons voie le jour. Une telle déclaration, émanant du plus grand spécialiste mondial du domaine, a probablement suscité quelques inquiétudes chez les investisseurs.

Pour autant, je ne pense pas que nous soyons confrontés à une opposition. Si le développement de l'ordinateur quantique aboutit, il représentera une avancée majeure. L'Europe doit donc impérativement investir dans ce domaine, d'autant plus que le rapport Draghi le cite comme l'une des technologies clés aux côtés de l'IA et de la robotique. Il est cependant important de noter que ces développements nécessitent des ressources considérables. L'IA elle-même est déjà extrêmement coûteuse en termes d'infrastructure et de recherche, et les technologies quantiques sont encore plus consommatrices de moyens.

Je ne reviendrai pas sur le Sommet de l'IA, déjà évoqué.

S'agissant de l'euro numérique, nous devons dissiper un malentendu courant : il n'a rien d'une cryptomonnaie au sens du bitcoin. Il s'agit d'une monnaie adossée aux banques centrales. Toutefois, l'un des premiers travaux de préfiguration a été confié à Amazon. Le gouverneur de la Banque de France, arrivé après cette décision, m'a confié qu'il s'y serait fermement opposé s'il avait été en poste à l'époque. Ce choix illustre une certaine naïveté européenne, que nous devons absolument dépasser.

Nous avons déjà connu un précédent lors de la nomination de Fiona Scott-Morton comme cheffe économiste de la DG Concurrence. Elle n'entendait pas renoncer à sa nationalité américaine pour occuper ce poste stratégique au sein de l'Union européenne. Fort heureusement, cette nomination a été annulée.

Jean-Marie Cavada l'a rappelé : au sein des groupes d'experts européens, il n'est pas rare de voir les représentants des chambres de commerce américaines venir nous contredire sur des sujets stratégiques. Nous étions souvent contraints de leur rappeler : « Vous êtes patriotes américains, nous sommes patriotes européens. » Cette vision angélique et irénique doit cesser. Nous devons adopter un pragmatisme réaliste et exploiter les leviers de puissance dont nous disposons, notamment notre force de consommation, même si notre retard industriel dans ces domaines est une réalité.

Mme Morin-Desailly nous demandait s'il était déjà trop tard. La réponse est non. Les évolutions technologiques récentes sont caractérisées par l'accélération des cycles. Les positions de monopole peuvent être remises en cause bien plus rapidement qu'auparavant. Qui aurait imaginé, il y a trois ou quatre ans, que la domination de Google sur la recherche pourrait vaciller ? Nous voyons bien que les IA génératives se substituent progressivement aux moteurs de recherche traditionnels.

Ces transformations vont-elles bouleverser les positions dominantes ? Peut-être, mais soyons lucides : sans un soutien financier massif, l'Europe continuera de décrocher face aux autres puissances. L'un des problèmes majeurs réside dans l'absence d'analyse rétrospective de nos échecs numériques. J'en parle d'expérience : à différentes périodes de ma carrière en cabinet ministériel, j'ai tenté de mener des études sur ce qui n'avait pas fonctionné dans certains programmes. On m'a immédiatement mis en garde. Derrière chaque échec, des responsables en place refusent qu'on leur rappelle leurs erreurs.

Cette situation n'est pas propre à la France : au niveau européen aussi, il est extrêmement difficile de remettre en question certaines doctrines.

Nous devrons, tôt ou tard, adopter un pragmatisme similaire à celui des États-Unis et de la Chine. Il est illusoire de croire que le marché libre et non faussé suffira à garantir notre prospérité et notre indépendance technologique. Ce modèle ne fonctionne pas dans un contexte de compétition mondiale exacerbée.

M. Chaize mentionnait tout à l'heure les mesures de régulation prises en Chine. Je tiens à rappeler qu'en Chine, la version locale de TikTok, Douyin, est massivement orientée vers l'éducation et les sciences. De plus, son usage est limité à 40 minutes par jour pour les jeunes utilisateurs. Pendant ce temps, en Europe, nous avons appris grâce à des documents internes de TikTok que la plateforme pouvait rendre un utilisateur dépendant en seulement 36 minutes.

Nous laissons donc la porte grande ouverte à ces pratiques. Le procès intenté à TikTok aux États-Unis est d'ailleurs révélateur d'une ironie sidérante : la plateforme invoque la liberté d'expression pour se défendre outre-Atlantique, alors même que toutes les plateformes occidentales sont censurées en Chine.

Vous nous interrogiez également sur le lien entre IA et populisme. Plusieurs facteurs convergent aujourd'hui pour fragiliser les démocraties occidentales. L'un des plus préoccupants est le déficit d'attention, notamment chez les jeunes. Développer leur sens critique ne suffira pas. Certains chercheurs ont cru que le citoyen, à lui seul, pourrait se défendre face aux géants du numérique. C'est une illusion. L'asymétrie est totale : ces plateformes savent tout de nous et disposent d'outils extrêmement sophistiqués pour influencer nos comportements. Le développement du sens critique est nécessaire, mais il ne suffira jamais face à une telle puissance de manipulation.

C'est pourquoi la régulation est indispensable. Nous avons vu ces dernières années comment certaines plateformes ont été utilisées pour influencer des élections, en Roumanie récemment, mais aussi lors des scrutins précédents. Il ne s'agit pas de faire basculer 20 % d'un électorat d'un coup - quoique cela pourrait devenir envisageable à terme -, mais d'influencer ces quelques pourcentages d'indécis qui déterminent souvent l'issue d'une élection.

S'y ajoutent deux tendances inquiétantes : la culture de l'immédiateté et un inquiétant déficit de mémoire collective. Les récentes statistiques sur la connaissance historique des jeunes en témoignent : 46 % des jeunes Français ignorent ce qu'a été la Shoah, contre 12 % en Allemagne.

Ce contexte offre un terreau idéal au populisme politique, mais aussi aux idéologies extrémistes. Les réseaux sociaux en sont des vecteurs redoutables, et l'intelligence artificielle amplifie encore ce phénomène en permettant des manipulations d'une précision et d'une efficacité jamais vues auparavant.

M. Jean-Marie Cavada. - Nous alertons avec force sur des dangers bien réels. Il est crucial de réveiller les consciences et de pousser les législateurs et gouvernants à agir, malgré la pression des lobbies qui voudraient sanctuariser cette « nouvelle merveille du monde » censée améliorer notre civilisation.

Personne ici n'est contre l'intelligence artificielle. En revanche, nous dénonçons la captation de technologies par des puissances poursuivant des objectifs bien précis, dont le premier est un enrichissement économique démesuré. Vers quoi nous mènera-t-elle ? C'est précisément ce déséquilibre des rapports de force que nous devons combattre, dans l'intérêt de l'Europe.

On nous répète que la régulation est un frein à l'innovation. Quelle absurdité ! Si c'était vrai, croyez-vous qu'une industrie automobile aurait pu se développer à travers le monde alors que chaque pays possède son code de la route ? De plus, nous n'aurions jamais développé les alliages ultralégers, les carburants optimisés ou les automatismes de vol. Malgré l'accident tragique ayant eu lieu hier soir à Washington, nous savons tous que le nombre de morts dans les airs est bien inférieur à celui des décès sur les routes.

Cette idée selon laquelle toute régulation serait néfaste est un pur produit de marketing politique, qui s'est imposé en Europe depuis une quinzaine d'années, et c'est stupéfiant.

J'aimerais conclure sur un point essentiel : nous apprenons aux enfants à lire dès leur plus jeune âge, dès la maternelle. Il est désormais essentiel de leur enseigner le numérique et, surtout, son évolution la plus récente : l'intelligence artificielle. Celle-ci peut être un formidable levier de progrès, notamment dans des domaines comme la recherche médicale, qui suscite une admiration légitime. Mais l'IA n'a pas créé Apple, ni Amazon, ni cet étrange personnage qui, visiblement, n'a jamais vu Le Dictateur de Charlie Chaplin : Monsieur Musk. Je pense d'ailleurs que la nouvelle présidence américaine ne devrait pas s'appeler Trump, mais Trusk. A-t-on déjà vu un industriel, par la seule force de sa fortune, s'immiscer à ce point dans le gouvernement d'un grand pays, influencer les élections, calomnier un Premier ministre britannique, remettre en cause le processus électoral américain, et - pire encore - minimiser des groupuscules néonazis qui, eux, promeuvent et saluent Hitler ?

M. Jean-François Rapin, président de la commission des affaires européennes. - J'ajoute qu'il a financé les campagnes d'Obama et de Biden également, en fonction des résultats des sondages.

M. Jean-Marie Cavada. - Bien entendu. Et pourtant, il ne se passe rien. La réaction de la Commission européenne est d'une indigence stupéfiante. Mais je ne compte pas sur Mme von der Leyen pour tenter d'ériger une véritable autorité européenne qui prendrait sa source dans les travaux de Robert Schuman. Dans ses notes personnelles, il a livré une véritable leçon de morale géopolitique : « Plus jamais ça. » Par-là, il entendait « plus jamais l'industrialisation de la barbarie », mais aussi plus jamais de conflits résolus par la guerre, alors qu'ils pourraient l'être par la discussion et le dialogue. Je ne suis pas certain que ses mots soient si éloignés du sujet qui nous occupe ce matin.

M. Jean-François Rapin, président de la commission des affaires européennes. - Merci pour vos propos très clairs, parfois disruptifs. Merci de nous avoir éclairés sur un sujet que vous maîtrisez parfaitement.

Cette audition a fait l'objet d'une captation vidéo, qui est disponible en ligne sur le site du Sénat.

La réunion est close à 10 h 25.