EXAMEN EN COMMISSION
La commission des affaires européennes s'est réunie le jeudi 31 janvier 2019 pour l'examen du présent rapport. À l'issue de la présentation faite par MM. André Gattolin et Cyril Pellevat, le débat suivant s'est engagé :
M. Jean Bizet , président . - Je salue la qualité de votre réflexion sur un sujet majeur. L'Europe, certes, affiche un retard technologique en matière d'intelligence artificielle, mais elle possède une avance éthique, atout à ne pas négliger compte tenu des effets pervers intrinsèques à cette science. Cet avantage peut demain faire la différence ! Le sujet de l'intelligence artificielle pourrait utilement faire l'objet d'une réflexion commune avec le Bundesrat. Nos deux chambres fonctionnent différemment, mais des partenariats thématiques pourraient s'avérer intéressants. Je vous remercie d'avoir exhumé le paragraphe 3 de l'article 107 du Traité sur le fonctionnement de l'Union européenne qui, sous condition, autorise les aides d'État. Votre proposition de résolution me semble équilibrée et prospective. À l'instar des travaux déjà menés sur le numérique au sein de notre commission et par notre collègue Catherine Morin-Desailly, présidente de la commission de la culture, de l'éducation et de la communication, le dossier de l'intelligence artificielle pourrait faire l'objet d'une coopération parlementaire franco-allemande.
M. André Reichardt . - La thématique de l'intelligence artificielle paraît fort enthousiasmante pour l'Union européenne ! Le débat sur les élections prochaines au Parlement européen devrait s'en saisir. À rebours des discours populistes, il permet de montrer à nos concitoyens, au travers d'exemples similaires, l'utilité de l'Union européenne.
Ne nous en cachons pas : en matière d'intelligence artificielle, l'Europe accuse un retard dommageable dont elle porte la responsabilité. Les États-Unis et la Chine se sont saisis plus précocement de cette technologie. Certes, nous y apportons une éthique, mais je ne suis pas certain qu'elle puisse, en l'espèce, être qualifiée d'atout. Face à la Chine, elle pourrait davantage constituer un handicap... L'écart des moyens consacrés à l'intelligence artificielle apparaît également révélateur : On reste loin de la Chine qui ne s'embarrasse guère, par ailleurs, de règles pour le traitement des données.
L'intelligence artificielle représente un formidable défi pour l'Union européenne ! Je soutiens les propositions de la Commission européenne dans ce domaine. Pensez toutefois qu'elle demande seulement aux États membres de définir une stratégie. Quel retard par rapport à nos concurrents ! Le plan d'action de la Commission européenne doit être rapidement mis en oeuvre, avec les pays qui souhaitent s'y investir. Nous retrouvons le dilemme de l'Europe à plusieurs vitesses...
M. Jean Bizet , président . - L'intelligence artificielle constitue peut-être la matière qui verra l'émergence d'une quatrième politique de coopération renforcée.
Mme Anne-Catherine Loisier . - Au sein de la délégation sénatoriale aux entreprises, j'ai récemment travaillé avec Pascale Gruny sur la numérisation de l'économie. Nous nous sommes, dans ce cadre, rendues à Berlin où nous avons pu observer l'important travail mené par nos voisins allemands sur l'intelligence artificielle, notamment au regard de ses conséquences sur l'emploi et de ses implications éthiques. À cette occasion, nous avons appris que l'université de Berlin avait conclu un partenariat avec celle de Berkeley pour réfléchir aux questions d'éthique. L'Europe devrait se mobiliser pour que de telles collaborations émergent en son sein, sur le modèle des partenariats existant entre la France, l'Allemagne et l'Italie sur les nanotechnologies et les batteries de voitures électriques. Elle gagnerait à approfondir sa réflexion sur l'innovation de rupture et sur la création de centres de compétences. Les Allemands s'interrogent notamment sur les règles régissant l'accès aux données. Entre le laxisme américain et la rigidité chinoise, beaucoup de pays n'ont pas encore déterminé de réglementation. Pour faire des émules et gagner des marchés, l'Union européenne a tout intérêt à en définir rapidement.
M. Benoît Huré . - Je remercie les rapporteurs pour la clarté de leur présentation. Je suis moins pessimiste que notre collègue André Reichardt : avoir raison trop tôt ne représente pas toujours un handicap. La vision éthique de l'Europe s'imposera un jour dans les instances internationales. Qui imaginait autrefois que l'on réussisse à taxer les Gafam ? Ce sera pourtant une réalité à l'horizon 2020 ou 2021. Ne renonçons jamais à l'éthique !
La difficulté ne réside pas tant dans notre retard technique que dans l'absence de coordination entre États membres. Souvenez-vous à cet égard de l'audition de Thierry Breton... Nous devons travailler de concert avec l'Allemagne. Pour autant, le fait que nos partenaires concluent des accords avec d'autres pays ne me semble pas constituer un obstacle.
Je partage l'analyse d'André Reichardt : l'intelligence artificielle représente un formidable sujet de débat dans le cadre des élections européennes du printemps. Les membres de notre commission pourraient utilement disposer d'une note recensant les projets européens les plus porteurs, afin de les présenter concrètement à nos concitoyens. Je crains, en effet, les conséquences d'une campagne électorale éloignée des véritables enjeux.
M. Pierre Ouzoulias . - Notre président a raison : votre proposition de résolution parait équilibrée, soit, en langage sénatorial, consensuelle. Notre débat sur l'intelligence artificielle ne doit pas faire oublier, comme l'ont rappelé les auditions menées par nos rapporteurs, qu'elle ne peut s'envisager sans avancée de l'intelligence humaine.
L'effort européen sur l'intelligence artificielle doit certes porter sur la technique informatique, mais il ne doit pas faire l'impasse sur les sciences humaines. Un philosophe peut apporter autant qu'un informaticien à ces sujets ! Nous devons également veiller à faire avancer la réflexion juridique. Que pourrait être un code de l'unité numérique individuelle ? Quelles règles devront être appliquées à une existence virtuelle, propre et numérique ? Une réflexion philosophique et juridique solide doit accompagner ce progrès technique.
Le RGPD doit être envisagé comme un outil anti-monopolistique, voire protectionniste, à l'encontre des Gafam et d'États comme la Chine. Entendue par la commission de la culture, de l'éducation et de la communication, Marie-Laure Denis, nouvellement nommée présidente de la Commission nationale de l'informatique et de libertés (CNIL), a indiqué que l'application du RGPD allait entrainer une surcharge de travail de 20 % à 25 % pour la CNIL en raison de la croissance des contentieux. Pour une application efficace du RGPD, il convient donc de renforcer les moyens de l'organisme.
M. Jean Bizet , président . - Nous n'avons, pour des raisons d'agenda, pas pu entendre le contrôleur européen de la protection des données sur le RGPD. Nous pourrions dès lors inviter Marie-Laure Denis devant notre commission. Le RGPD donnera la pleine mesure de son efficacité lorsqu'il sera possible d'examiner les sanctions prises dans le cadre de son application. La Californie étudie avec attention la législation européenne sur les données personnelles.
M. André Gattolin , rapporteur . - À l'occasion de la proposition de résolution relative aux objets connectés, Colette Mélot et moi-même avions proposé un renforcement des moyens de la CNIL pour l'application du RGPD. Les instances similaires de nos partenaires européens ont sensiblement augmenté leurs effectifs, certes originellement plus modestes.
Mme Sophie Joissains . - La CNIL représente un instrument de régulation et de sanction. Lors du dernier projet de loi de finances, certains collègues souhaitaient réduire sa subvention : la commission des lois l'a défendue afin qu'elle dispose des moyens d'assurer sa mission.
Mme Anne-Catherine Loisier . - J'ai ouï dire qu'un groupe de travail « science et technique » avait été créé au niveau européen.
Mme Colette Mélot . - Nous pouvons regretter la lenteur de l'Union européenne pour mettre en place une stratégie commune sur l'intelligence artificielle comme sur d'autres dossiers. Nos rapporteurs ont néanmoins fait état de quelques avancées. Les données sur les 500 millions de consommateurs européens représentent un trésor qui doit être mis à la disposition de la recherche et de l'industrie. L'Europe n'est pas en retard, mais elle doit continuer à avancer. Je crois aussi à l'intérêt de ce sujet dans le cadre de la campagne électorale pour le Parlement européen.
Mme Joëlle Garriaud-Maylam . - L'éthique, certes louable, peut constituer un frein au développement économique. Les Européens sont parfois trop naïfs ; ils subissent les conséquences des règles qu'ils s'imposent à eux-mêmes. Nous devons nous engager fermement sur le dossier de l'intelligence artificielle. À l'époque du traité de Maastricht, je me souviens d'un débat sur les pertes considérables causées par l'absence de collaboration entre États membres en matière de recherche et de développement. Trente ans plus tard, la situation n'a guère progressé. L'Europe devrait également s'unir dans le domaine de la cybersécurité. La commission des affaires étrangères, de la défense et des forces armées a entendu le général Olivier Bonnet de Paillerets, commandant de la cyberdéfense, qui regrettait le manque de coopération européenne, y compris franco-allemande, dans ce secteur crucial.
M. André Gattolin , rapporteur . - On est beaucoup revenu sur les questions éthiques. Quelles sont-elles ? Ne handicaperont-elles pas l'industrie européenne de l'intelligence artificielle ? L'Union européenne a décidé de ne pas fixer des règles éthiques, mais des lignes éthiques. Nous en avons besoin pour établir des limites afin de protéger nos données personnelles par rapport aux autres acteurs, notamment la Chine et les Gafam qui ne feront pas dans la dentelle ! Une des règles éthiques est non pas la transparence des algorithmes, mais la capacité à les recomposer. Il existe plusieurs types d'intelligence artificielle. Il y a tout d'abord le machine learning qui brasse beaucoup de données et apporte des réponses très intelligentes. Il y a ensuite la logique du système expert. En gros, pour les statisticiens, c'est toute la différence entre une segmentation et une analyse factorielle.
Amazon , qui est une des entreprises les plus performantes en matière de recherche sur l'intelligence artificielle, a voulu optimiser ses critères de recrutement. Or la machine avait un biais : elle choisissait de préférence des hommes, tout simplement parce que l'entreprise compte 80 % de salariés hommes ! Cela prouve que l'intelligence artificielle toute seule n'existe pas : derrière elle, il y a l'intelligence humaine.
On a longtemps parlé d'économie numérique. Maintenant on parle d'économie numérisée. Ici c'est exactement la même chose : il existe un secteur de l'intelligence artificielle et cette intelligence artificielle va se diffuser partout. Pierre Ouzoulias a raison : l'organisation du travail, même dans une entreprise classique, s'en trouvera transformée. Nous avons auditionné hier une personne de France Stratégie qui a étudié l'utilisation de l'intelligence artificielle dans les systèmes de santé. Une société qui gère près de 10 millions d'usagers santé aux États-Unis, Kaiser, s'est rendu compte que le moyen le plus efficace pour bien gérer un système de santé était l'inter-échange entre tous les membres. Certes, l'intelligence artificielle peut traiter un grand nombre de données ; en ce sens, son analyse est meilleure que celle d'un expert pour la détection de certaines maladies. Pour autant, ce n'est pas elle qui fera l'accompagnement aux soins. En bref, l'intelligence artificielle s'immiscera dans la structure dans le sens plutôt d'une organisation apprenante.
Lors de son audition passionnante, Charles-Édouard Bouée, PDG du cabinet de conseil Roland Berger, a souligné que chaque révolution industrielle se faisait sur des bases différentes. À l'intérieur du numérique, tous les grands leaders de la révolution précédente veulent préparer la révolution d'après, mais souvent ils s'orientent vers des solutions qui ne seront pas forcément celles de la vague suivante. On va vers des formes d'intelligences personnalisées augmentées. Un téléphone portable est beaucoup plus puissant que toute la capacité informatique de l'administration américaine dans les années soixante-dix. Il existera peut-être demain des applications qui, sans divulguer à l'extérieur nos données personnelles, guideront nos choix en tenant compte de nos goûts, de nos préférences et de nos aspirations.
Je pensais que l'intelligence artificielle représentait de grands espoirs pour les maladies orphelines. Pas du tout ! Elle donnera plutôt de bonnes réponses pour les pathologies globales, mais elle n'identifiera pas mieux qu'un bon médecin une maladie rare. Nous aurons donc du mal à nous passer de l'expertise humaine. Il existe des machines qui agissent toutes seules - j'en veux pour preuve le trading à haute fréquence -, mais pas encore des machines qui pensent toutes seules.
J'ai beaucoup échangé avec des ressortissants de pays du nord, notamment les Norvégiens. Tout le monde a les mêmes projets novateurs sur la santé, les mobilités, l'énergie. Où est l'innovation dans l'innovation ? Pourquoi ne pas plutôt réfléchir à l'impact de l'intelligence artificielle dans l'agriculture et dans l'aquaculture ?
M. Cyril Pellevat , rapporteur . - André Reichardt a posé des questions sur le financement. Une étude réalisée par McKinsey montre que l'Europe est en retard sur les investissements privés dans l'intelligence artificielle. Alors que ses entreprises investissaient entre 2,4 et 3,2 milliards d'euros en 2016, l'Asie apportait 6,5 à 9,7 milliards d'euros et l'Amérique du Nord entre 12,1 et 18,6 milliards d'euros. Par ailleurs, c'est tout récent, Bpifrance veut faciliter le financement de l'innovation de rupture en France alors que jusqu'à présent elle allait surtout vers des start-up traditionnelles. Une enveloppe de 775 millions d'euros sera mise en place d'ici à 2023 et sera mise à disposition des entreprises de la « deep tech » dont les projets sont plus longs à développer.
André Gattolin a parlé de l'intelligence spécialisée et de l'intelligence généraliste. Tout cela va de pair avec la formation. L'acquisition de connaissances qualifiables et standardisables sera faite par la machine, mais on aura besoin de l'humain pour porter un regard critique sur l'action de l'intelligence artificielle. Nous devrons donc adapter notre modèle de formation en conséquence.
Je répondrai à Colette Mélot que nous ne sommes pas en retard au niveau du marché européen.
En ce qui concerne le droit, en réponse à Pierre Ouzoulias, j'ai été rapporteur sur les drones. Lors d'une audition, j'avais demandé qui, du développeur ou de l'entreprise commercialisant la machine, portera la responsabilité de l'erreur. Je n'ai pas obtenu de réponse. Il faudra sans doute aller vers un mixte.
Joëlle Garriaud-Maylam a parlé de cybersécurité. Un rapport d'information de M. Danesi et de Mme Laurence Harribey a été remis il y a un an. L'acte pour la cybersécurité a été adopté au niveau européen. Il renforce l'agence européenne et la coopération entre les États membres. Il crée des normes de certification européennes.
M. André Gattolin , rapporteur . - J'ajoute sur la cybersécurité que l'Allemagne et la France investissent beaucoup. Nous avons pris conscience des enjeux depuis pas mal d'années. Nous avions relevé que dans certains secteurs comme les objets connectés nous n'étions pas assez prudents et qu'ils pouvaient être piratés, mais globalement nous enregistrons un vrai développement.
Mme Sophie Joissains . - Je souhaite insister sur le rôle de l'éthique et de l'autorité de régulation. Ces avancées formidables constituent aussi une manne financière importante. En matière de santé au niveau des assurances, ça pourrait être assez terrifiant. Il importe le plus possible d'appuyer la capacité de l'autorité de régulation qu'est la CNIL.
Mme Véronique Guillotin . - C'est un sujet important pour l'avenir de la société tout entière et pour les projets européens. Aujourd'hui, en Europe, le populisme monte et les projets manquent. Après l'Europe du charbon, pourquoi pas celle de l'intelligence artificielle ?
Concernant la santé, l'intelligence artificielle est une innovation technologique, mais il faut aussi une innovation organisationnelle intégrée par les professionnels. La télémédecine est certes une possibilité, mais elle ne fonctionnera pas si les professionnels ne s'approprient pas la technologie. Quid de la formation des médecins et des chercheurs ? Quid de la recherche en France ? Quid de la formation scientifique dès le plus jeune âge ?
M. Pierre Médevielle . - Je suis optimiste quant aux questions d'éthique dans le domaine médical. L'intelligence artificielle représente un espoir formidable. Je me souviens du premier supercalculateur et du développement de l'épidémiologie. Certes, il a fallu l'intervention humaine pour se rendre compte que la chute spectaculaire des cancers de l'estomac était liée à l'apparition du réfrigérateur, mais nous devons continuer à exploiter tous ces outils. On va devoir travailler en pluridisciplinarité, ce qui est rassurant. Je pense à l'Institut du cerveau et de la moelle épinière ou à l'Oncopole de Toulouse. C'est une approche nouvelle qui apporte un véritable potentiel.
Le sujet que nous avons le moins abordé est le secteur agricole. En 2050, la terre comptera 10 milliards d'individus. Nous ne pourrons pas faire sans l'intelligence artificielle qui permettra d'optimiser la production. Je pense en particulier aux supercalculateurs météo qui permettront d'analyser les précipitations et la nature des sols.
M. Jean Bizet , président . - Merci de cette réflexion sur l'apport de l'intelligence artificielle dans l'agriculture.
*
À l'issue du débat, la commission, à l'unanimité, autorise la publication du rapport d'information et adopte la proposition de résolution européenne suivante, ainsi que l'avis politique qui en reprend les termes et qui sera adressé à la Commission européenne.