L'intelligence artificielle va-t-elle révolutionner l'univers des collectivités territoriales ?

---

N° 447

SÉNAT

SESSION ORDINAIRE DE 2024-2025

Enregistré à la Présidence du Sénat le 13 mars 2025

RAPPORT D'INFORMATION

FAIT

au nom de la délégation aux collectivités territoriales et à la décentralisation (1) relatif à l'intelligence artificielle dans l'univers des collectivités territoriales,

Par Mmes Pascale GRUNY et Ghislaine SENÉE,

Sénateur et Sénatrice

(1) Cette délégation est composée de : M. Bernard Delcros, président ; M. Rémy Pointereau, premier vice-président ; M. Fabien Genet, Mme Pascale Gruny, M. Cédric Vial, Mme Corinne Féret, MM. Éric Kerrouche, Didier Rambaud,
Pierre Jean Rochette, Gérard Lahellec, Grégory Blanc, Mme Guylène Pantel, vice-présidents ; MM. Laurent Burgoa,
Jean Pierre Vogel, Hervé Gillé, Mme Sonia de La Provôté, secrétaires ; M. Jean-Claude Anglars, Mmes Nadine Bellurot,
Catherine Belrhiti, MM. François Bonhomme, Max Brisson, Mme Céline Brulin, MM. Bernard Buis, Cédric Chevalier, Thierry Cozic, Mme Catherine Di Folco, MM. Jérôme Durain, Daniel Gueret, Joshua Hochart, Patrice Joly, Mmes Muriel Jourda,
Anne-Catherine Loisier, MM. Jean-Jacques Lozach, Pascal Martin, Jean-Marie Mizzon, Franck Montaugé, Mme Sylviane Noël,
M. Olivier Paccaud, Mme Anne-Sophie Patru, MM. Hervé Reynaud, Jean-Yves Roux, Mmes Patricia Schillinger, Ghislaine Senée, MM. Laurent Somon, Lucien Stanzione, Jean-Marie Vanlerenberghe.

L'ESSENTIEL

Technologie en pleine expansion, l'IA suscite à la fois espoirs et inquiétudes : l'IA peut-elle aider les élus à satisfaire les exigences propres au fonctionnement des services publics locaux ? Va-t-elle irrémédiablement « tuer » l'emploi dans nos collectivités ? Peut-elle être conjuguée aux exigences environnementales poursuivies par les collectivités ? Quel lien avec les citoyens le déploiement d'une telle machine suppose-t-il ? Comment les citoyens, les agents et les décideurs peuvent-ils orienter ces transformations plutôt que les subir ?

Face à ce maquis d'interrogations, d'appréhensions et d'espoirs, la délégation aux collectivités territoriales a souhaité lancer une mission d'information sur le recours à l'IA dans l'univers des collectivités territoriales.

Ce rapport propose un état des lieux des premières réalisations des collectivités en matière d'IA, mais aussi des pistes méthodologiques pour un recours adapté, éthique et durable à l'IA.

Les auditions menées dans le cadre de cette mission permettent de parvenir à un constat sans équivoque : si les collectivités ont déjà recours à l'IA, la période à venir demeure celle de l'acclimatation et de la maturité des collectivités aux potentialités de l'IA.

I - L'IA SERA DÉMYSTIFIÉE OU NE SERA PAS

Encore aujourd'hui, malgré l'ouverture au grand public de « Chat GPT » à la fin de l'année 2022, l'IA est trop peu voire mal connue. Or, de cette méconnaissance naît la majorité des réticences (voire des oppositions) au recours à l'IA.

C'est pourquoi ce rapport insiste sur l'importance de démystifier l'IA afin de la considérer comme un outil offrant de multiples opportunités. Pour démystifier cet outil, l'étape de la sensibilisation puis de la formation des élus et des agents des collectivités à l'IA apparaît fondamentale.

RECOMMANDATION n° 1

Développer les offres de sensibilisation puis de formation à l'IA à l'attention des élus et des agents des collectivités.

Un recours durable et adapté aux besoins du territoire ne saurait se faire sans l'implication des citoyens dans le développement d'une IA au service des collectivités. C'est l'enjeu de l'acculturation de la société à l'IA. Ainsi le rapport recommande-t-il aux collectivités de développer des processus dédiés à l'implication des citoyens au développement de projets d'IA.

RECOMMANDATION n° 2

Impliquer le citoyen dans l'introduction de l'IA au sein des services publics locaux afin de s'assurer de l'acceptation citoyenne et de se prémunir contre un risque de déshumanisation des services.

II - LES APPLICATIONS DE L'IA DANS LES COLLECTIVITÉS TERRITORIALES

Les collectivités n'ont pas à rougir : quelle que soit la taille considérée, nombre d'entre elles ont su se saisir de cet outil.

Pour encourager ce mouvement déjà initié dans de nombreux territoires, ce rapport dresse une typologie des usages possibles de l'IA au service des collectivités.

A - L'IMPACT DE L'IA DANS L'ORGANISATION INTERNE DES COLLECTIVITÉS

Le premier domaine dans lequel les collectivités territoriales peuvent pleinement tirer profit des opportunités offertes par l'IA est celui de leur organisation interne.

En effet, l'IA peut permettre d'automatiser des tâches bien souvent répétitives, fastidieuses et chronophages pour les agents qui les exécutent.

Source : délégation aux collectivités territoriales et à la décentralisation.

B - L'IA, UN OUTIL D'ANALYSE UTILE DANS LA CONDUITE DES POLITIQUES PUBLIQUES DES COLLECTIVITÉS

L'IA offre des opportunités significatives pour améliorer la conduite des politiques publiques développées par les collectivités.

Ce rapport ne vise pas l'exhaustivité mais propose de mettre en lumière quelques exemples pratiques et concrets de politiques publiques conduites par les collectivités et améliorées par le recours à l'IA.

Les six projets développés au sein du rapport et cartographiés ci-contre relèvent de politiques publiques essentielles pour toute collectivité : l'information aux usagers, la sécurité, la gestion des déchets, l'optimisation du réseau de distribution de la ressource en eau, la prévision des risques naturels, la politique des mobilités.

Source : délégation aux collectivités territoriales et à la décentralisation.

III - UNE STRATÉGIE POUR RÉUSSIR LE RENDEZ-VOUS AVEC L'IA

Pour encourager un recours éthique, durable et adapté à l'IA, ce rapport propose une méthodologie de mise en oeuvre de tout projet IA. Cette stratégie repose sur trois axes.

AXE N° 1 - DÉVELOPPER UNE INGÉNIERIE AU SERVICE DE L'IA

L'IA est un outil d'un nouveau genre. Une fois le temps de l'acculturation passé - notamment grâce aux modules de sensibilisation, de formation et d'implication citoyenne, l'IA nécessite le développement d'une ingénierie technique spécifique à ses modalités, son fonctionnement et ses enjeux.

Dans les collectivités, le déploiement d'une telle ingénierie peut se décliner à trois échelles : à l'échelle de la collectivité, entre les collectivités, au niveau national avec la coopération de l'État.

a) Déployer une ingénierie IA à l'échelle de la collectivité

Comme pour l'informatique en son temps, l'IA nécessite que les collectivités de 30 000 à 40 000 habitants créent des services qui lui soient dédiés.

En effet, au-delà de l'assistance technique qu'un service dédié à l'IA pourrait apporter en cas de problèmes ou d'interrogations, des services dédiés à l'IA permettraient de
concevoir et d'intégrer des outils d'IA proportionnés aux besoins réels du territoire.

RECOMMANDATION n° 3

Dans les collectivités ayant la taille critique suffisante, mettre en place un management des données par un administrateur général des données (« Chief Data Officer »), un réseau de référents data, un Comité data ou une Direction de la donnée.

b) Déployer une ingénierie IA entre les collectivités

Pour une IA proportionnée et pérenne, la mission recommande également le déploiement d'une ingénierie IA entre les collectivités.

Cette ingénierie peut passer par la mise en place de « Comités territoriaux de la donnée » permettant l'échange d'expérience entre les collectivités à des fins d'intérêt général.

RECOMMANDATION n° 4

Expérimenter des Comités territoriaux de la donnée pour faciliter le partage de données à des fins d'intérêt général et favoriser les échanges d'expérience.

Sans surprise, face au déploiement de projets IA, les collectivités ne sont pas sur un pied d'égalité. Alors que les grandes villes témoignent d'un degré de maturité élevé en matière d'IA, que les villes-moyennes initient de nombreux projets, les plus petites collectivités rencontrent de nombreux défis.

Le risque réside donc dans le décrochage entre petites et grandes collectivités. C'est pourquoi la mission propose que l'ingénierie de projets d'IA s'organise autour de collectivités « cheffes de file » permettant la construction d'une expertise et le partage de la valeur ajoutée inhérente aux projets d'IA.

RECOMMANDATION n° 5

Structurer le développement des projets IA autour de collectivités « cheffes de file » capables de construire une expertise et de monter des projets proportionnés.

c) Déployer une ingénierie IA en coopération avec l'État

Le développement de projets d'IA inclut bien d'autres acteurs que les seules collectivités. Pour autant, en ce qui concerne les projets d'IA développés pour les besoins des collectivités, les collectivités doivent demeurer à la manoeuvre.

Une instance doit donc permettre la réunion de l'ensemble des partenaires prenant part aux projets d'IA et les collectivités concernées. La mission propose que les « Comités territoriaux de la donnée » précités, en plus de favoriser l'échange d'expériences entre pairs, exercent le rôle d'animer le réseau de l'ensemble des partenaires territoriaux de l'ingénierie IA.

RECOMMANDATION n° 6

Confier aux Comités territoriaux de la donnée la mission d'animer le réseau des acteurs territoriaux de l'ingénierie IA (collectivités territoriales,
acteurs institutionnels-clefs et partenaires privés) en vue de la démocratisation de l'IA parmi les collectivités.

Source : délégation aux collectivités territoriales et à la décentralisation.

Parmi les acteurs territoriaux de l'ingénierie IA et les partenaires évoqués, l'État exerce un rôle-clef.

En effet, au-delà d'agir comme un ensemblier incitant les collectivités à « prendre le train de l'IA », l'État peut encourager les collectivités et leurs partenaires à favoriser des projets prenant en compte le critère environnemental.

Premièrement, pour favoriser la prise en compte du critère environnemental par les projets d'IA dès l'attribution d'un marché public, les collectivités peuvent accorder une attention toute particulière au bilan environnemental de la solution d'IA qui leur est proposée.

RECOMMANDATION n° 7

Dans l'attribution d'un marché public portant sur un outil IA, prendre en compte le bilan environnemental de cette IA.

Secondement, l'État pourrait élaborer une bibliothèque nationale des projets IA développés par les collectivités.

Cette bibliothèque correspondrait à une plateforme en ligne sur laquelle les collectivités pourraient saisir leurs projets IA et découvrir les projets développés par leurs homologues à partir de quelques informations-clefs : situation de la collectivité, besoin auquel ce projet répond, coût du projet...

La plateforme intègrerait également une rubrique « impact environnemental du projet » remplie à partir de l'évaluation environnementale du projet fournie par l'entreprise au moment de la signature du contrat entre la collectivité et l'entreprise.

RECOMMANDATION n° 8

Créer une « bibliothèque nationale des projets IA développés par les collectivités » sous la forme d'une plateforme numérique. Les informations partagées dans cette bibliothèque porteraient par exemple sur l'impact environnemental du projet considéré.

Source : délégation aux collectivités territoriales et à la décentralisation.

AXE N° 2 - SÉCURISER LE RECOURS À L'IA

Pour favoriser et pérenniser le recours à l'IA, l'usage de cet outil doit nécessairement être sécurisé. D'une part, la collectivité doit pouvoir s'assurer de la pérennité de l'entreprise avec laquelle elle passe le contrat, au risque de ne pas pouvoir procéder aux mises à jour et à niveaux indispensables au bon fonctionnement de l'IA.

D'autre part, la sécurisation du recours à l'IA repose sur une meilleure connaissance du droit de l'IA. L'IA répond en effet au droit de la conformité. Or, le droit de la conformité oblige les acteurs à appliquer un processus : il n'y a pas de place à l'interprétation, seulement à la conformation.

L'ensemble des acteurs doivent se conformer : la collectivité qui signe un contrat avec un sous-traitant doit donc s'assurer que le sous-traitant se conforme également au droit en vigueur.

Enfin, le recours à l'IA pose la question de l'engagement de la responsabilité juridique des élus et des agents des collectivités. Si des éléments de clarification sont attendus, certaines précautions peuvent néanmoins être prises pour sécuriser les élus et les agents en cas de dysfonctionnement de l'IA.

RECOMMANDATION n° 9

Sensibiliser et former les élus locaux et les cadres administratifs des collectivités des collectivités au droit de la conformité car, dans le cadre d'un projet IA, « il ne s'agit pas seulement de signer un contrat avec un sous-traitant, il faut s'assurer que celui-ci est aussi en conformité ».

Parce que les enjeux de sécurité lorsqu'il s'agit d'IA sont particulièrement importants et divers, le rapport propose que le délai de mise en conformité des collectivités territoriales en matière de prévention des cyber-risques soit fixé à trois ans.

RECOMMANDATION n° 10

Fixer à trois ans le délai de mise en conformité des collectivités territoriales concernées par la directive « NIS 2 ».

AXE N° 3 - VEILLER AU DÉVELOPPEMENT D'UNE IA ÉTHIQUE

Il faut veiller à ce qu'une fascination trop exclusive pour le progrès technologique n'occulte pas le souci éthique. Tout projet d'IA doit donc intégrer de fortes exigences éthiques.

Plus encore, la réflexion sur le « bon » usage de l'IA doit constituer une étape obligatoire dans la construction de tout projet IA.

L'échelle de la collectivité territoriale apparaît comme un niveau approprié de déploiement du filet de secours à dimension éthique car les collectivités sont le lieu de rencontre entre les injonctions citoyennes en vue d'un meilleur service public et les obligations légales relatives au respect de la protection des données personnelles (règlement général sur la protection des données, règlement général de sécurité...).

L'élaboration d'une charte éthique apparaît alors comme la forme la plus adaptée en ce qu'elle permet à une collectivité de fixer les principes, valeurs et normes éthiques auxquels tout projet d'IA développé sur son territoire doit se conformer.

RECOMMANDATION n° 11

Établir une charte éthique de l'IA dans les collectivités territoriales pour fournir un cadre de confiance au développement de leurs projets IA.

AVANT-PROPOS

Intelligence artificielle (IA) prédictive, IA générative, agents IA... autant de notions encore inconnues voilà quelque temps, mais désormais en voie d'installation dans le débat public. Aucune autre technologie n'avait peut-être autant bouleversé notre vision du monde que l'IA aujourd'hui. Les plus optimistes y voient un puissant facteur d'émancipation, quand les plus pessimistes redoutent une relégation de l'Homme, bientôt promis au joug froid de la machine. Malgré les différences d'approche, un point commun ressort pourtant : les jugements sur l'IA se nourrissent assurément de beaucoup de fantasmes. C'est que la vitesse de propagation de cette technologie n'a pour l'instant guère laissé de place ni à la prise de recul, ni à la remise en perspective.

Conformément à sa vocation, votre délégation aux collectivités territoriales a donc décidé de prendre le temps de ce questionnement et a souhaité faire un pas de côté pour mesurer les implications de l'émergence de l'IA dans l'univers des collectivités locales. En quoi l'IA peut-elle aider les élus à satisfaire la demande de services publics locaux devant répondre à l'exigence d'efficacité ? Va-t-elle irrémédiablement « tuer » l'emploi dans nos collectivités ? Aura-t-on même encore besoin autant d'élus demain, si les machines deviennent omniscientes ? Comment le citoyen peut-il être associé à ces transformations, et comment les orienter plutôt que les subir ?

Répondre à ces questions exige de démystifier au préalable l'IA : mieux comprendre ses principes de fonctionnement, pour mieux cerner ses capacités comme ses limites. Une fois atteinte cette meilleure connaissance, la lumière du projecteur peut alors se tourner avec davantage de netteté vers les cas d'usage, d'ores et déjà très nombreux, de l'IA parmi nos collectivités territoriales. Du fonctionnement interne des services jusqu'à des applications touchant la vie quotidienne des usagers, cette technologie présente en effet dès aujourd'hui de telles potentialités qu'un recensement exhaustif serait illusoire. Vos rapporteures ont donc pris le parti de n'en donner que quelques illustrations, parmi les plus inspirantes pour les décideurs locaux.

Ces décideurs locaux, qu'ils soient élus ou cadres de la fonction publique territoriale, découvrent l'IA sans y avoir été spécialement préparés, et encore moins formés. Certains en nourrissent une appréhension compréhensible, d'autres peuvent néanmoins être tentés de s'engager dans des projets aux conséquences humaines, techniques, juridiques et financières parfois hasardeuses. C'est pour cette raison que vos rapporteures ont voulu leur fournir une « grille de lecture » pointant les questions-clefs à se poser avant de se lancer dans l'aventure de l'IA. Car, si pour Ésope la langue pouvait être « la meilleure et la pire des choses », il en est certainement de même de cette technologie aux applications tellement diverses. Ce qui rend d'autant plus nécessaire la capacité à se poser les bonnes questions avant de recourir, ou non, aux services de l'IA.

LISTE DES RECOMMANDATIONS

N° de la recommandation	Recommandations	Acteurs concernés	Calendrier prévisionnel	Support / action
1	Développer les offres de sensibilisation puis de formation à l'IA à l'attention des élus et des agents des collectivités	Associations d'élus locaux, Centre national de la fonction publique territoriale (CNFPT), Centres de gestion (CDG)	3 ans	Action administrative
2	Impliquer le citoyen dans l'introduction de l'IA au sein des services publics locaux afin de s'assurer de l'acceptation citoyenne et de se prémunir contre un risque de déshumanisation des services.	Collectivités territoriales	3 ans	Action administrative
3	Dans les collectivités ayant la taille critique suffisante, mettre en place un management des données par un administrateur général des données (« Chief Data Officer »), un réseau de référents data, un Comité data ou une Direction de la donnée.	Collectivités territoriales	3 ans	Action administrative
4	Expérimenter des Comités territoriaux de la donnée pour faciliter le partage de données à des fins d'intérêt général et favoriser les échanges d'expérience.	Ministère de l'Intérieur (direction du management de l'administration territoriale et de l'encadrement supérieur - DMATES), collectivités territoriales	1 an	Circulaire
5	Structurer le développement des projets IA autour de collectivités « cheffes de file », capables de construire une expertise et de monter des projets proportionnés aux besoins des territoires.	Collectivités territoriales	5 ans	Action administrative
6	Confier aux Comités territoriaux de la donnée la mission d'animer le réseau des acteurs territoriaux de l'ingénierie IA (collectivités territoriales, acteurs institutionnels clés et partenaires privés) en vue de la démocratisation de l'IA parmi les collectivités.	Premier ministre, Collectivités territoriales	1 an	Circulaire

7	Dans l'attribution d'un marché public portant sur un outil IA, prendre en compte le bilan environnemental de cette IA.	Ministère de la Transition écologique et de la Cohésion des territoires (Ecolab), collectivités territoriales	3 ans	Action administrative
8	Créer une « bibliothèque nationale des projets IA développés par les collectivités » sous la forme d'une plateforme numérique. Les informations partagées dans cette bibliothèque porteraient par exemple sur l'impact environnemental du projet considéré.	Ministère de la Transition écologique et de la Cohésion des territoires (Ecolab), collectivités territoriales	3 ans	Action administrative
9	Sensibiliser et former les élus locaux et les cadres administratifs des collectivités au droit de la conformité, car dans le cadre d'un projet IA « il ne s'agit pas seulement de signer un contrat avec un sous-traitant, il faut s'assurer que celui-ci est aussi en conformité ».	Associations d'élus locaux, CNFPT, CDG	3 ans	Action administrative
10	Fixer à trois ans le délai de mise en conformité des collectivités territoriales concernées par la directive « NIS 2 ».	Ministère de l'Intérieur (direction générale des collectivités locales)	1 an	Loi
11	Établir une charte éthique de l'IA dans les collectivités territoriales (sur la base du volontariat) pour fournir un cadre de confiance au développement de leurs projets IA.	Collectivités territoriales	5 ans	Action administrative

I. LES CHAMPS D'APPLICATION DE L'IA DANS L'UNIVERS DES COLLECTIVITÉS TERRITORIALES

A. QU'EST-CE QUE L'IA ?

1. Démystifier ce nouvel outil

Il faut le reconnaître, aujourd'hui l'IA fait encore souvent peur. La faute en incombe principalement à une ignorance, ou méconnaissance, de la nature réelle de ce nouvel outil. Avant même de s'interroger sur les enjeux de l'IA pour nos collectivités territoriales, il est donc indispensable de démystifier cette technologie et d'en faire la pédagogie. Il est d'ailleurs remarquable que cette priorité ait été partagée par la plupart des interlocuteurs entendus par vos rapporteures au cours de leur mission d'information. Pour être utilisée à bon escient, l'IA doit d'abord être bien comprise.

En 1956, le mathématicien et informaticien John McCarthy propose une première formalisation du concept auquel renvoie l'IA : « tout aspect de l'apprentissage, et de n'importe quelle caractéristique de l'intelligence, peut être si précisément décrit qu'en principe, une machine devrait pouvoir être fabriquée pour simuler l'intelligence ». Ainsi dès ses origines, l'IA est appréhendée comme une machine fabriquée par l'Homme pour simuler l'intelligence humaine.

De façon schématique, l'IA est une machine programmée pour arriver en quelques instants à une conclusion à laquelle aurait abouti un être humain en faisant appel à sa logique, au temps et à la raison. Cette machine peut apprendre, raisonner et résoudre des problèmes.

Parmi les premiers travaux à l'origine de cette approche, la modélisation des synapses et des neurones par le neurophysiologiste, Warren McCulloch, et le logicien, Walter Pitts, constitue une étape fondatrice^1(*). L'IA s'inspire du vivant en ce que son fonctionnement reproduit celui des réseaux de neurones.

Pour y parvenir avec des résultats satisfaisants, trois éléments moteurs doivent être réunis : des données (la fameuse « data » dans le jargon des experts), une capacité de calcul exceptionnelle et un algorithme. En effet, l'IA repose sur un principe de calcul de probabilités et de rapprochement de données entre elles. Pour que la probabilité de succès soit la plus élevée possible et le rapprochement le plus pertinent parmi ceux envisageables, le volume de data passées en revue a intérêt à être le plus important possible. Raison pour laquelle l'IA s'appuie sur des bases contenant fréquemment des millions de données. C'est là que la capacité de calcul entre bien évidemment en ligne de compte, puisque l'examen de volumes aussi conséquents de données mobilise une puissance de calcul considérable. L'exigence d'un délai de réponse aussi bref que possible ne fait que renforcer la nécessité de recourir à une puissance de calcul exceptionnelle. Le lien entre la data et la puissance de calcul est réalisé au travers d'un algorithme, c'est-à-dire une formule de calcul conçue pour parvenir à résoudre un problème. Dans certains cas d'IA, cet algorithme est « auto-apprenant », autrement dit il est conçu de sorte que son comportement évolue dans le temps en fonction des données fournies. Les spécialistes décrivent cette faculté sous le terme d'« apprentissage machine » (apprentissage automatique ou machine learning en anglais).

Dans ce processus, la qualité de la data conditionne la capacité de l'IA à produire une réponse pertinente à la question qui lui est posée. L'IA n'invente rien ex nihilo, elle se contente d'élaborer une réponse à partir de la base de données qu'elle a à sa disposition. Pour progresser dans la qualité de la réponse, l'IA peut être « entrainée », c'est-à-dire qu'on enrichit sa base par des data supplémentaires.

Dans la mesure où l'IA se fonde sur le calcul de probabilités et qu'elle dépend de la qualité de la data fournie, on comprend que la réponse qu'elle apporte n'est pas dépourvue de risque d'erreur. Les spécialistes vont même jusqu'à parler d'« hallucination » de l'IA. Ce phénomène d'hallucination renvoie à une réponse fausse ou trompeuse, mais présentée comme un fait certain. Il peut, entre autres, tenir à des données erronées, ou comportant un biais (préjugé, présentation fallacieuse, défaut d'actualisation...). Dans ce dernier cas, les experts parlent d'ailleurs de « biais cognitifs ». On voit donc, au travers de ce risque, combien la qualité de la data utilisée joue un rôle majeur dans la confiance pouvant être accordée à l'outil IA.

Contrairement à une préconçue idée qui pourrait facilement se diffuser dans le grand public à l'avenir, la réponse apportée par l'IA ne peut donc être tenue pour 100 % certaine. En d'autres termes, cela signifie que l'intervention et le contrôle humains demeurent une condition essentielle pour un déploiement serein de l'IA^2(*). A contrario, le danger serait de se fier sans réserve à l'IA et de laisser l'esprit critique humain dépérir à mesure que la confiance absolue en l'IA gagnerait du terrain. Dans son rapport « Service public : l'intelligence humaine aux commandes de l'IA », le cercle des acteurs territoriaux rejoint cette analyse et l'illustre du commentaire du philosophe Thierry Ménissier : « le problème n'est pas tant la technologie que la société qui l'utilise (...). Le sens critique et moral des usagers peut se trouver désamorcé par le recours à un artifice machinique, tandis que la réflexion et la décision impliquent toujours une part de risques dans la prise de position... épreuves dont on comprend bien qu'il soit tentant de s'y dérober. En ce sens, l'usage trop fréquent des modèles de langage recouvre le risque d'un conformisme généralisé, synonyme de manque de courage. Les époques qui ont vécu ce genre d'ambiance ne sont connues ni pour leur tolérance démocratique, ni pour leur respect humaniste ! ».

Une autre préoccupation majeure en matière d'IA réside dans le contenu de l'algorithme, souvent perçu comme une « boîte noire ». Or, la confiance en l'IA ne pourra durablement s'installer que dans la transparence de cette formule de calcul, qui ne doit pas « réserver de mauvaises surprises ». Cette remarque est loin d'être négligeable, d'autant qu'elle suppose une expertise particulière pour parvenir à comprendre et vérifier un algorithme^3(*).

Au final, on ne peut que regretter le vocable retenu pour désigner cette nouvelle technologie. Le terme IA introduit un malentendu entre l'homme et la machine, en laissant entendre qu'une machine pourrait s'apparenter à quelque chose d'humain, voire demain supplanter l'être humain. Or, il faut bien l'avoir à l'esprit, l'IA est et demeurera une machine, soumise au contrôle humain pour s'assurer de la pertinence et de l'exactitude des réponses apportées par l'algorithme.

2. Les deux familles d'IA : IA prédictive versus IA générative

Le terme générique d'IA recouvre, à ce stade, deux grandes familles d'outils : les IA prédictives et les IA génératives.

L'IA prédictive utilise l'apprentissage automatique pour extrapoler l'avenir. Elle est centrée sur l'analyse des données et la réalisation de prévisions futures à partir de données historiques et actuelles.

Des exemples d'application de l'IA prédictive

· Les diagnostics médicaux : l'IA prédictive trouve un terrain privilégié d'application dans le domaine de la santé. Elle contribue à la prévention d'épidémies et à l'identification de patients à risque. Par ailleurs, elle est de plus en plus utilisée dans le diagnostic des maladies et pour améliorer le pronostic et les programmes de soin des patients. L'IA établit un diagnostic en recherchant des patients de même profil (même âge et poids, par exemple) présentant des symptômes et des affections sous-jacentes similaires. Elle peut également utiliser des banques d'images pour aider au diagnostic de certaines maladies ;

· La détection de la fraude : en analysant les modèles et les tendances, l'IA prédictive peut identifier plus tôt les activités potentiellement frauduleuses. Par exemple, en signalant l'utilisation d'un appareil non connu ou un accès depuis un nouvel emplacement ;

· Les prévisions financières : les modèles d'IA prédictive s'appuient sur des données financières historiques pour prédire les tendances des marchés boursiers, les risques et les opportunités d'investissement. L'IA prédictive vise alors à améliorer la précision des prévisions et la prise de décision financière ;

· L'analyse du comportement d'un client : l'IA prédictive peut utiliser les données client (l'historique d'achat) et les modèles de comportement d'achat pour prédire de futurs achats. Ainsi, les entreprises sont-elles en capacité de mieux gérer leurs stocks et leurs opérations de chaîne logistique (prévisions de la demande).

Source : d'après Colin Redbond, Head of Technology Strategy and Architecture, Blue Prism (blog, octobre 2013)

L'IA générative crée du contenu en s'appuyant sur des données et des informations acquises à partir d'autres contenus existants. Les créations peuvent prendre la forme de textes, d'images, de musiques ou encore de vidéos. Leur qualité varie selon l'algorithme employé, elle peut être très élevée au point qu'il est au final difficile de savoir si le contenu a été produit par des personnes ou une machine. Pour solliciter cette forme d'IA, l'utilisateur formule une instruction en langage naturel, appelée le « prompt ».

L'irruption à la fin de l'année 2022 de ChatGPT (Chat Generative Pre-Trained Transformer^4(*)), lancé par la société OpenAI, a mis en lumière et popularisé les potentialités de l'IA générative. Facile d'utilisation, son interface a donné accès à cette technologie à de très nombreuses personnes, qui ne disposaient pas de compétences spécifiques en informatique. Au début de l'année 2024, ChatGPT revendiquait 180 millions d'utilisateurs actifs mensuels et 1,8 milliard de visites^5(*).

L'IA générative tend à rapidement gagner du terrain dans le monde de l'entreprise. Elle y est utilisée, par exemple, pour générer des contenus marketing, rédiger des mails, élaborer des rapports analytiques ou faciliter la prise de décision basée sur des données. Des secteurs d'activité tels que l'enseignement, par exemple, sont également impactés par cette capacité nouvelle à créer du contenu. Dans leur vie quotidienne même, les utilisateurs mettent à profit ces nouvelles applications pour la planification d'itinéraires de voyage, la résolution de problèmes quotidiens ou l'aide à la rédaction de documents.

B. LES PARTICULARITÉS DE NOS COLLECTIVITÉS JOUENT-ELLES EN FAVEUR DE LA DIFFUSION DE L'IA ?

1. Des freins partagés avec les autres secteurs d'activité

Parmi les collectivités territoriales, la prise de conscience est en cours de l'importance de l'IA et de ses applications potentielles. Toutefois, comme toute innovation, la diffusion de l'IA se heurte à certains obstacles, les collectivités ne faisant pas exception à cette règle générale.

Dans son rapport « Intelligence artificielle et action publique : construire la confiance, servir la performance » publié en 2022, le Conseil d'État dressait le constat que « ce n'est pas faire injure à la fonction publique que de constater, comme l'ont fait de nombreuses personnes auditionnées, que la culture de l'IA est faible, voire inexistante, chez la plupart des agents publics, y compris à haut niveau de responsabilité. Les concepts restent nébuleux et les confusions fréquentes (...) ». Deux ans plus tard, le constat mérite certainement d'être plus nuancé : des effets d'apprentissage ont joué, mais des lacunes demeurent, plus ou moins importantes selon les cas. Pour ce qui est des collectivités territoriales, certaines ont d'ores et déjà une très bonne appréhension des sujets IA. Toutefois, beaucoup continuent de souffrir d'un manque de connaissances et de compétences en interne. Dans l'édition 2023 du « Baromètre de la data dans les territoires »^6(*), l'Observatoire Data Publica relève que 64 % des collectivités territoriales répondant à son questionnaire évoquent cette difficulté. Les agents en place n'ont pas été recrutés sur la base de leur niveau de maîtrise des outils IA. Il ne faut bien évidemment pas s'en étonner :  la révolution IA est si soudaine qu'elle n'a pas encore été prise en compte dans les concours de la fonction publique, tandis que la formation (initiale et continue) commence tout juste à traiter de ces nouveaux outils. Aussi, les collectivités, comme les autres administrations publiques, les entreprises et les associations, doivent-elles aujourd'hui former leurs équipes à la compréhension et à l'utilisation de l'IA.

Un autre écueil considérable réside dans la gestion des données. L'IA nécessite des données de qualité, c'est-à-dire fiables et utilisables sans trop de difficultés, pour fonctionner efficacement. Or, de nombreuses entités, y compris parmi les collectivités territoriales, souffrent encore de lourdes lacunes dans la collecte et la gestion de leurs données.

Les investissements financiers représentent un obstacle supplémentaire, non négligeable. Ainsi que le souligne Pascal Berteaud, directeur général du Centre d'études et d'expertise sur les risques, l'environnement, la mobilité et l'aménagement (CEREMA), le développement et la mise en oeuvre de projets IA peuvent être coûteux. L'acquisition d'une solution logicielle, le coût du stockage des données, comme le pilotage humain avec des effectifs dédiés, constituent autant de postes de dépense à prendre en considération avant le lancement d'un projet.

Par ailleurs, l'absence de cadre éthique ne contribue pas à l'émergence d'un environnement incitatif pour les collectivités territoriales et leurs élus désireux de s'engager sur la voie de l'IA. La maîtrise des questions réglementaires et éthiques liées à l'IA, comme par exemple celle relative à la confidentialité des données, demeure un objectif à atteindre, avec en toile de fond l'enjeu du développement d'une « IA de confiance ».

Enfin, un dernier frein n'est pas à sous-estimer, et c'est peut-être même le principal : le frein psychologique. Dans sa contribution écrite adressée à vos rapporteures, l'Association des maires de France (AMF) l'explicite sans détours : « dans tous les cas, le frein est d'abord dans les têtes : perception des enjeux, inquiétudes sur les perspectives, augmentation de la vulnérabilité de l'action publique ».

Faut-il avoir peur de l'IA ?

(extrait du rapport de la Commission de l'IA, « IA : notre ambition pour la France », mars 2024)

« Faut-il avoir peur de l'IA ?

« Non, mais il faut être vigilant comme avec tout outil. L'IA actuelle ne va pas conduire à la fin de l'humanité. En revanche, les systèmes d'IA s'accompagnent déjà d'un ensemble de risques qui nécessitent d'être gérés. Au printemps 2023, 60 experts de l'IA et personnalités mondialement connues ont signé une déclaration qui a fait grand bruit¹ : ils avertissaient que prévenir le risque d'une extinction de l'humanité causée par une IA hors de contrôle devait être une priorité mondiale, au même titre que prévenir les pandémies ou les conflits nucléaires. De fait, les discours entourant l'IA portent autant sur ses risques et ses dangers que sur son potentiel pour améliorer le quotidien de l'humanité, et souvent ce sont les risques les plus extrêmes qui sont mis en avant. L'extinction de l'humanité, ce n'est quand même pas rien !

« (...)

« Sur ce plan, la situation de l'IA n'a rien de très original : toutes les technologies qui ont bouleversé notre quotidien ont, en leur temps, suscité des peurs, certaines imaginaires, d'autres bien réelles. La crainte que la vitesse des trains rende aveugles leurs passagers s'est avérée entièrement infondée, mais le développement du chemin de fer a aussi été la source d'incidents, parfois sérieux, qui ont imposé une réponse des pouvoirs publics : les tunnels ferroviaires ont ainsi longtemps été considérés comme un milieu insalubre, voire dangereux. Même la « fée électricité » suscitait en 1900 des craintes sur les risques d'électrocution dans la rue ».

¹ « Pause Giant AI Experiments : An Open Letter », article publié par le Future of Life Institute (22 mars 2023)

2. Des atouts propres à nos collectivités

Les collectivités territoriales disposent d'atouts qui leur sont propres pour relever le défi de l'intégration de l'IA dans leur organisation.

Tout d'abord, et sans verser dans une vision par trop idyllique de nos collectivités, il convient de souligner leur capacité à surmonter régulièrement la complexité au cours des dernières décennies. L'informatisation des services à compter des années 1970, puis la digitalisation numérique à partir de l'arrivée d'Internet ont été conduites à bon rythme du côté des collectivités territoriales. Bien sûr des échecs ont inévitablement émaillé ce cheminement, mais d'une façon générale la marche en avant s'est aussi bien accomplie que dans la plupart des autres secteurs d'activité. Au regard du progrès technologique, les collectivités n'ont donc pas à nourrir de complexe d'infériorité ; elles ont au contraire démontré qu'elles savent être au rendez-vous. Ce vécu et cet historique représentent autant d'éléments venant nourrir une approche plutôt optimiste des enjeux à venir concernant l'IA à l'échelle des collectivités.

On peut même aller jusqu'à considérer qu'une « culture de la gestion de la complexité » caractérise nos collectivités territoriales. Les innovations technologiques ne sont en effet pas les seuls vecteurs de complexité dans l'univers des collectivités territoriales. Celles-ci sont en prise directe avec d'autres formes de difficultés, qu'elles soient juridiques ou administratives. Qu'on songe ainsi au foisonnement des règles de droit venant impacter les collectivités territoriales, à la difficulté de monter des cahiers des charges pour certains appels à projets ou encore à l'enchevêtrement des services de l'État face à elles^7(*). Autant d'expériences qui les amènent à se frotter à la complexité, à l'apprivoiser et, surtout, à développer une méthode de travail pour la réduire et franchir les obstacles. À cet égard, la révolution de l'IA ne constitue qu'une marche, parmi d'autres, à gravir.

Pour ce faire, les collectivités territoriales peuvent d'ailleurs s'appuyer sur une méthode de travail éprouvée. Elles savent souvent, et parfois même mieux que l'État, conduire des projets pilotes et mener des expérimentations locales. Or, ce savoir-faire représente un atout fort en vue de l'introduction de l'IA au niveau territorial. Il est à la fois gage d'efficacité et de gain de temps.

La proximité avec les citoyens compte aussi parmi les quelques facteurs-clefs de réussite sur lesquels les collectivités peuvent s'appuyer. Elle permet d'identifier les besoins réels en termes de services publics locaux et, donc, de ne pas se disperser dans des projets IA peu, voire pas du tout, pertinents. Du fait de la diversité de l'offre sur ce marché en très forte croissance, de la pression commerciale et de l'effet de mode, un risque majeur réside en effet dans la tentation d'aller vers des « solutions IA » ne répondant pas véritablement à des problèmes rencontrés dans le quotidien des usagers ou des agents. En ce sens, le retour d'expérience des citoyens fait office de précieuse corde de rappel et doit permettre d'éviter des investissements inutiles.

L'écosystème des collectivités territoriales constitue également un terreau propice à la bonne prise de décision. Sur leur territoire, les collectivités accueillent souvent des entreprises, des startups locales, des universités, des associations qui sont autant de lieux propices au développement de l'IA. Elles peuvent ainsi y puiser une source d'inspiration pour de prochains projets, mais aussi y trouver une expertise qui leur fait défaut. Pour reprendre un terme familier des économistes, des « externalités positives » peuvent jouer du fait de cette proximité et des échanges avec les acteurs de l'IA, ou avec de nouveaux utilisateurs de cette technologie.

Enfin, les collectivités territoriales sont grandement productrices du « carburant » de l'IA : la data. Mobilité, sécurité, logement, environnement, gestion du patrimoine... autant de champs de compétences des collectivités qui sont fortement pourvoyeurs de données et autres statistiques. Au point que, dans le développement de l'IA, l'accès à une data territoriale de qualité (c'est-à-dire fiable et aisément réutilisable) constitue souvent une condition de réussite d'un projet. Les élus locaux ne sont pas encore tous conscients de ce potentiel, pourtant bien réel. L'intérêt de cette production abondante renvoie à la faculté d'entrainer l'IA avec des données pertinentes. En retour, les réponses de l'IA sont d'autant mieux appropriées au territoire concerné.

C. DANS QUELS DOMAINES LES COLLECTIVITÉS PEUVENT-ELLES TIRER PROFIT DE L'IA ?

Les applications de l'IA dans l'univers des collectivités territoriales sont déjà nombreuses et leur vitesse de diffusion rend illusoire le projet d'en dresser un inventaire exhaustif. S'il était envisageable, un tel inventaire serait très rapidement obsolète car les domaines d'application de l'IA s'élargissent eux aussi à grande vitesse. Par ailleurs, même lorsque la collectivité n'est pas dotée d'un outil à base d'IA, il se peut que certains de ses agents travaillent avec une IA installée à leur initiative personnelle (sur leur téléphone portable, par exemple).

Sans céder au mirage de fournir un panorama exhaustif des applications de l'IA dans les collectivités, il est toutefois possible d'établir une cartographie indicative du déploiement de cette technologie à ce jour et de l'illustrer par quelques exemples inspirants.

1. Un impact dans l'organisation interne des collectivités

Le premier domaine dans lequel les collectivités territoriales peuvent pleinement tirer profit des opportunités offertes par l'IA est celui de leur organisation interne. L'organisation interne des collectivités correspond à l'ensemble de tâches, d'activités et de procédures mises en oeuvre au sein d'une collectivité en vue d'assurer le bon fonctionnement et l'efficacité du service rendu par la collectivité à sa population.

Malgré leur caractère indispensable au bon fonctionnement des services de la collectivité, certaines de ces tâches sont bien souvent répétitives, fastidieuses et chronophages pour les agents qui les exécutent. Il s'agit, par exemple, de la saisie de données, de l'archivage de fichiers, du traitement de dossiers, de la rédaction d'actes administratifs ou encore de recherches juridiques... Dans un contexte général de manque de ressources humaines et financières au sein des collectivités, la réalisation de ces tâches doit alors bien souvent donner lieu à des arbitrages très concrets et difficiles pour les décideurs ; par exemple, dédier un agent à temps complet à l'accomplissement de ces tâches au détriment d'une présence de ce même agent dans un autre service au contact des usagers.

Face à ces problématiques, l'IA peut constituer une nouvelle étape dans l'organisation interne des collectivités. Comme le numérique en son temps lorsqu'il permit le développement puis la démocratisation du recours à des logiciels de traitement de texte ou à de puissants tableurs, l'IA peut permettre un allègement des tâches administratives par l'automatisation de tâches répétitives et la simplification de recherches fastidieuses. Ainsi l'IA peut-elle receler, pour les collectivités, un gain de productivité, une source d'économies financières et un facteur supplémentaire d'efficacité du service rendu au public.

Au cours des différentes auditions menées par vos rapporteures, plusieurs secteurs de l'organisation interne des collectivités ont ainsi été identifiés comme des terrains privilégiés pour le développement et le recours à l'IA.

a) Les services informatiques 

Parce qu'ils rassemblent des experts informatiques et technologiques accoutumés à ces enjeux, les services informatiques des collectivités ont bien souvent été les premiers à expérimenter des outils d'IA. Pour autant, l'IA ne se confond pas avec l'informatique et un informaticien n'est pas immédiatement apte à se servir d'un outil IA. Comme pour les autres catégories d'agents, il est nécessaire de former les personnels informatiques. Une fois cette réserve soulignée, il n'en reste pas moins que les services informatiques des collectivités comptent parmi les champs d'application privilégiés pour la mise en place d'une IA.

Des exemples de l'application de l'IA aux services informatiques des collectivités

· Un support technique amélioré et personnalisé : des assistants personnalisés (ou chatbots) peuvent être mis en place pour fournir une assistance à l'utilisation de logiciels ou de matériels informatiques. Les assistants personnalisés de l'IA peuvent s'adapter aux besoins de chaque agent (dématérialisation des procédures, protection et archivage des fichiers...).

· Une sécurité renforcée : l'IA peut aider à détecter et résoudre automatiquement les incidents informatiques et ainsi augmenter la disponibilité et la performance des services informatiques. Cela constitue un moyen, pour les services informatiques de la collectivité, de décharger des agents de ce type de tâches tout en accélérant la gestion de ces problèmes.

b) La veille et l'analyse juridiques

Au cours des auditions réalisées par vos rapporteures, les services juridiques des collectivités sont apparus comme un terrain particulièrement propice à l'usage des potentialités offertes par l'IA.

En effet, d'une part, les services juridiques composent avec une matière laissant une place réduite aux réponses hasardeuses : le droit. D'autre part, ces services sont largement accaparés par des travaux de recherche complexes nécessitant de parcourir un large corpus de textes juridiques et de croiser les données extraites de ces textes, le tout en un temps limité. De plus, dans les plus petites collectivités, la difficulté de ces tâches se conjugue bien souvent avec un manque d'expertise et de ressources (humaines, documentaires...). Or, ce sont précisément des cas typiques d'utilisation de l'IA. Aussi, celle-ci peut être à l'origine, pour les services juridiques des collectivités, d'un gain de temps et d'argent, notamment grâce à sa rapidité d'exécution de tâches et sa prise en compte d'une très large base de données.

Par exemple, selon le président de l'Association nationale des directeurs et directeurs adjoints des centres de gestion (ANDCDG), Olivier Ducrocq, ainsi que la directrice générale des services du centre de gestion de Haute-Savoie, CDG 74, Valérie Bouvier, et la directrice générale adjointe du centre interdépartemental de gestion de la Grande Couronne de la région Île-de-France, Patricia Le Saux, « l'IA pourrait prendre en charge les questions de premier niveau posées par les collectivités aux juristes des centres de gestion. Cela permettrait aux juristes de dégager du temps pour apporter leur plus-value sur des cas juridiques plus complexes ». Ici, l'IA pallierait un processus de mutualisation des bases de données statutaires inégalement développé selon les territoires. Dans ces conditions, « ces postes ne seraient pas supprimés mais facilités et réorientés » selon Olivier Ducrocq.

La veille et l'analyse juridique des collectivités :

l'exemple de la plateforme Delibia 

Créée en 2021 à l'initiative de six collectivités normandes et du « Pôle TES » (pôle de compétitivité en innovation technologique en Normandie)¹, la start-up havraise Delibia a pour objectif de « rassembler les délibérations des collectivités sur une seule plateforme et de leur appliquer un moteur de recherche performant avec une IA permettant aux agents une analyse et une rédaction plus rapide »².

Après une phase d'expérimentation par plusieurs agents de différentes collectivités, l'outil d'IA de Delibia a finalement intégré trois fonctionnalités principales :

- constituer un moteur de recherche rassemblant un ensemble de délibérations et permettant des requêtes filtrées (par exemple, des recherches en lien avec une politique publique, une association, un type de projet...) ;

- permettre une assistance personnalisée par l'intermédiaire de l'assistant « Solyne », fondé sur l'IA générative, auquel il est possible de confier des tâches précises. Cet assistant travaille à partir d'une base de données fermée de documents issus de 4 000 collectivités référencées ;

- mettre en place des outils d'assistance rédactionnelle permettant à toutes les catégories d'agents (A, B ou C) de générer une note à partir de sources affichées ou de résumer des documents sélectionnés.

La plateforme Delibia est donc conçue pour de multiples usages relatifs à l'organisation interne des collectivités :

- « Accès aux connaissances sur les politiques publiques ;

- Gestion et accès aux connaissances internes des collectivités ;

- Compréhension et anticipation des politiques publiques ;

- Assistance rédactionnelle basée sur l'IA ;

- Analyse de politiques publiques ;

- Gestion documentaire augmentée »³.

L'entreprise Delibia  propose une formation des agents pour les accompagner dans l'utilisation de cet outil. Le coût d'accès à cette plateforme se monte à quelques milliers d'euros en fonction du type et du nombre d'habitants de la collectivité. Pour les communes de moins de 3 500 habitants, l'accès à cet outil est gratuit.

Si cette option est expérimentée par un nombre croissant de collectivités, seuls les retours d'expérience à venir au cours des prochains mois permettront de mesurer si ce service est de nature à satisfaire les besoins des agents des collectivités. En effet, si l'IA est susceptible d'apporter un véritable soutien aux services juridiques des collectivités, elle ne peut pas prétendre à supplanter une expertise humaine en la matière.

¹ De statut associatif, le « Pôle TES » regroupe 150 adhérents (grandes entreprises, PME, collectivités territoriales, établissements de recherche et de formation...).

² Selon le co-fondateur de Delibia, Jean-Baptiste Roffini, le 15 février 2024 à l'occasion de la session « hors-les-murs » organisée par votre délégation à Sceaux (cf. Annexe 1).

³ Site internet de la plateforme Delibia : https://delibia.fr/a-propos/.

c) La gestion des ressources humaines

Les services des ressources humaines des collectivités peuvent également bénéficier des apports de l'IA.

Lors de son audition, le président de l'ANDCDG a indiqué que « dans un contexte de complexité accrue du recrutement au sein des collectivités mais aussi de difficultés liées au statut même des ressources humaines présentes au sein des collectivités, l'IA peut apporter des solutions ».

Ces solutions sont de deux ordres. En premier lieu, l'IA peut faciliter la gestion administrative du personnel en optimisant le processus de recrutement : rédaction des offres d'emploi, anonymisation des Curriculum Vitæ, pré-sélection automatisée des candidats en fonction de critères prédéfinis par les collectivités... D'autres tâches purement administratives peuvent être prises en charge par l'IA : la gestion des congés, des paies ou l'archivage de documents administratifs... Lors de son audition, la directrice générale des services du CDG 74 indique que « l'IA peut constituer une aide supplémentaire, un facilitateur avec des outils d'automatisation relativement puissants mais également des outils permettant des simulations concernant la rémunération des agents. De ce fait, cela peut permettre de gagner du temps sur des tâches relativement récurrentes. ».

En second lieu, l'IA peut intervenir dans le domaine de la gestion des carrières. En effet, de nombreux outils IA apparaissent sous la forme « d'assistants personnalisés ». Ce faisant, l'IA peut proposer des programmes de formation adaptés aux besoins et aux compétences des agents des collectivités.

Par ailleurs, la capacité de stockage d'une multitude de données, la puissance de calcul et la rapidité de l'IA peuvent permettre l'analyse et l'exploitation de nombreuses données déjà collectées par les collectivités sans être valorisées à ce jour. Ainsi l'IA peut-elle analyser et valoriser des données de sorte à fournir aux collectivités des statistiques portant sur les mouvements de personnel ou encore, par exemple, l'avancement des agents dans leur carrière. Le président de l'ANDCDG mentionne ainsi l'exemple des CDG des départements de l'Isère, de la Haute-Savoie et du Rhône qui se sont associés avec la société WATsNEXT afin de recourir à l'IA pour analyser plusieurs milliers d'arrêtés de carrière de fonctionnaires territoriaux transmis par les collectivités. L'objectif est que l'IA détecte les anomalies relatives aux avancements d'échelons et aux positionnements administratifs. Le taux de réussite de ce robot est actuellement de 70 %. Pour le président de l'ANDCDG, l'expérimentation sera concluante lorsque le taux de réussite dans la détection d'anomalies par l'IA se situera entre 90 % et 95 % : « cela représentera un véritable gain de temps pour les agents qui passeront toujours moins de temps à gérer les 5 % d'erreurs du robot que les 95 % de volumes de masse aujourd'hui gérés par les agents ».

Enfin, l'exploitation et la valorisation de l'ensemble de ces données peuvent nourrir une stratégie de ressources humaines que les agents des collectivités, déchargés des tâches susceptibles d'être automatisées ou optimisées par l'IA, pourraient alors concevoir.

d) La gestion comptable et budgétaire

En matière comptable et budgétaire, l'IA peut aider les collectivités dans l'automatisation de tâches répétitives et par conséquent la réduction du risque d'erreurs de saisie. Par exemple, l'IA peut prendre en charge la saisie de données comptables, fiscales, financières, le remplissage de bons de commande à partir de modèles préalables...

Plus encore, la dimension prédictive de l'IA peut permettre aux collectivités de prévoir des tendances budgétaires, d'estimer les recettes fiscales à venir, d'anticiper les dépenses, d'identifier les domaines où peuvent être réalisées des économies, de détecter des appels à projets en cours et pertinents pour la collectivité ou encore de lutter contre la fraude relative à certaines aides ou redevances.

L'amélioration du rendement de la fiscalité locale :

le projet « foncier innovant » de la direction générale des finances publiques (DGFiP)

-

Le décryptage par la délégation du Sénat à la prospective¹

Dans leur rapport d'information « L'IA et l'avenir du service public », nos collègues Didier Rambaud et Sylvie Vermeillet, au nom de la délégation à la prospective du Sénat, ont mis en évidence comment l'IA peut contribuer à l'amélioration du rendement de la fiscalité locale : « Lancé en 2022 par la DGFiP, le projet « Foncier innovant » s'appuie sur l'IA pour automatiser l'exploitation des images aériennes publiques de l'IGN afin de détecter les constructions ou aménagements non déclarés, avec un test sur les piscines.

« [...] L'expérimentation menée sur 9 départements pilotes en 2022 a permis de confirmer le caractère taxable de plus de 20 000 nouvelles piscines, représentant près de 10 millions d'euros de recettes supplémentaires pour les communes (taxe foncière).

Le dispositif a donc été généralisé en 2023 à l'ensemble de la métropole (la Corse et l'Outre-mer devraient suivre), pour environ 150 000 piscines potentiellement taxables au total, soit une part non négligeable (5 %) des 3 millions de piscines enterrées que compte la France. »

Comment ça marche ?

¹ Sénat, rapport d'information n° 491 (2023-2024).

D'autres expérimentations sont en cours pour consolider la fiabilité des prévisions de recettes fiscales pour les collectivités.

Le 15 mai 2024, lors d'une table ronde organisée par vos rapporteures avec les associations d'élus, le président de la commission « Innovation, Numérique et Intelligence artificielle » de l'Assemblée des départements de France (ADF), Claude Riboulet, a pris l'exemple du département du Var qui expérimente l'IA pour essayer d'anticiper l'évolution de ses droits de mutation à titre onéreux (DMTO).

Afin de sélectionner l'outil d'IA le plus approprié, « le département du Var est allé voir trois entreprises proposant des logiciels IA en leur demandant de prédire le montant des DMTO pour l'année 2023 à partir du montant des DMTO des années 2019, 2020, 2021 et 2022. Le département connaissait déjà le montant des DMTO de l'année 2023, l'objectif était de voir quel outil d'IA était le plus proche. Parmi les trois logiciels testés, deux ont donné une mauvaise réponse, le dernier est tombé sur le montant exact ».

e) Les cabinets des exécutifs locaux et les secrétariats administratifs

Comme les autres services, les cabinets des exécutifs locaux et les secrétariats administratifs assurent régulièrement de nombreuses tâches susceptibles d'être optimisées ou automatisées par l'IA : la gestion des agendas, la réalisation de modèles de courriers, l'archivage, l'analyse de documents...

Lors de leur audition, Philippe Limantour, directeur technologique et cybersécurité de Microsoft France, et Elvire François, directrice des affaires publiques de cette même société, ont relevé que de nombreuses demandes émanant des collectivités à destination de Microsoft portent sur des solutions d'IA destinées à « augmenter les collaborateurs en accélérant leur productivité grâce à des outils d'IA qui constituent des appuis à la gestion des réunions, des courriers électroniques, des agendas, qui produisent des présentations, des comptes-rendus de réunions, des synthèses de documents... ». La suite Office de Microsoft propose ainsi Copilot, un outil d'IA complémentaire de la messagerie électronique Outlook ou du logiciel de visioconférence Teams qui permet la réalisation automatique de comptes-rendus à l'issue d'échanges de messages ou de réunions en visioconférence. Ces comptes-rendus reprennent uniquement les informations nécessaires à l'utilisateur, et non l'ensemble des informations transmises lors de ces échanges électroniques ou des réunions.

Les représentants de Microsoft observent ainsi que « l'IA comme assistant se développe dans chaque branche [de l'organisation interne des collectivités] et chaque métier : en finances, en communication, en ressources humaines... L'IA permet de simplifier l'ensemble des processus internes des collectivités (vérification de la complétude des dossiers, vérification des irrégularités, procédures d'achats, gestion des appels d'offres, chatbots qui permettent de poser des questions aux documents, supports à la direction des services informatiques)... ».

f) Les services de communication

Dans le domaine de la communication des collectivités territoriales, l'IA peut être utilisée pour gérer les réseaux sociaux et le site Internet des collectivités, pour contribuer à la rédaction de lettres d'informations ou de discours, ou créer des supports de communication.

L'IA peut ainsi faciliter la diffusion d'informations concernant les projets menés par la collectivité. En d'autres termes, l'IA peut contribuer à rendre la communication des collectivités plus claire et l'information plus accessible aux citoyens.

2. Un outil d'analyse utile dans la conduite des politiques publiques

L'autre domaine dans lequel les collectivités territoriales peuvent profiter des potentialités offertes par l'IA est celui de la conduite des politiques publiques. L'IA trouve d'ailleurs d'ores et déjà à s'appliquer dans nombre des champs de compétences des collectivités, et il est raisonnable de penser que ces applications étendront encore leur champ dans les mois et les années à venir.

Le propos de vos rapporteures n'est donc pas ici de livrer une liste exhaustive des cas d'usage de l'IA à ce jour, mais plutôt de mettre en lumière quelques exemples pratiques et concrets afin de mieux saisir les apports potentiels de cette technologie. Les illustrations retenues couvrent ainsi une grande variété de secteurs : information des usagers, sécurisation de l'espace public, gestion de l'eau, gestion des déchets, prévention des catastrophes naturelles, mobilités.

a) L'information des usagers à la mairie de Plaisir

Le droit à l'information de l'usager s'impose aux administrations publiques. Or, du fait de l'afflux quotidien de demandes émanant de leurs populations, les collectivités sont soumises à une tension constante. L'IA peut alors offrir des solutions visant à filtrer et à analyser les sollicitations des citoyens mais aussi, et surtout, à leur apporter des réponses de premier niveau.

Lors de la réunion hors-les-murs de votre délégation à Sceaux le 15 février 2024, Khaled Belbachir, directeur des relations citoyennes de la ville de Plaisir (Yvelines), a souligné les difficultés rencontrées par cette ville-moyenne face aux nombreuses sollicitations téléphoniques : « la ville de Plaisir, de 32 000 habitants, souhaite proposer un accueil de qualité à ses usagers. Nous avons identifié la forte problématique que représente l'accueil téléphonique ».

Le directeur précise que « l'accueil physique est plutôt satisfaisant. Les difficultés rencontrées avec le téléphone ont des raisons diverses :  flux d'appels en continu, moyens humains insuffisants au profit de l'accueil physique. Nous avons constaté un taux de perte d'environ 60 % à 65 % sur les appels téléphoniques ».

La ville de Plaisir avait donc un double défi à relever : ne pas rogner sur les moyens humains et financiers assurant la qualité de l'accueil physique, tout en conservant la possibilité de proposer à ses habitants des contacts téléphoniques. Elle a donc décidé de se tourner vers l'IA. La municipalité a alors mandaté la société Yelda pour mettre en place une solution innovante. Le fondateur de Yelda, Thomas Guenoux, présent à la réunion du 15 février 2024, présente son logiciel IA comme un moyen « d'automatiser une partie des questions posées par les usagers ». C'est ainsi qu'au mois de septembre 2022, Optimus, un robot conversationnel utilisant l'IA, est venu prêter main-forte aux standardistes de la mairie.

Khaled Belbachir souligne qu'« il s'agissait de mettre en place un robot qui prendrait les appels en premier niveau de réponse. Il n'était pas envisagé de remplacer nos standardistes. D'ailleurs, leur effectif est aujourd'hui maintenu. Il s'agissait de décharger les standardistes des appels sans valeur ajoutée ». Pour illustrer concrètement ce à quoi ces « réponses de premier niveau » désormais apportées par l'IA peuvent correspondre, le directeur des relations citoyennes donne plusieurs exemples : s'enquérir des horaires d'ouverture de la mairie, des documents requis pour un renouvellement de pièce d'identité... Ainsi, ce système de callbot a particulièrement été utile sur les demandes relatives à la procédure de renouvellement des titres d'identités. Lorsqu'une telle demande arrive, le robot indique à son interlocuteur les démarches à suivre avant de lui envoyer un SMS contenant un lien vers les espaces en ligne correspondants. Lorsque la situation est plus complexe, l'appel est transféré aux agents de la mairie.

Depuis septembre 2022, Optimus est opérationnel au sein de la collectivité. Il a permis de faire chuter le taux de perte des traitements de demandes émanant des habitants de 65 % à 8 %. Ce succès s'explique en grande partie par la disponibilité du robot qui est joignable 7 jours sur 7 et 24 heures sur 24. Par ailleurs, « les appels traités par les standardistes prennent désormais plus de temps (de 1, 5 à 1, 8 fois plus longs) » note Khaled Belbachir. D'une part, cela signifie que les appels plus courts et peu complexes ont été pris en charge par le robot. D'autre part, cela veut dire que les standardistes bénéficient désormais de plus de temps pour pouvoir « dialoguer avec leurs interlocuteurs » et « toujours veiller à ce que les usagers n'aient pas d'autres questionnements avant de raccrocher ».

Grâce au recours à l'IA, ce n'est pas seulement la quantité de demandes traitées qui a augmenté, mais aussi la qualité du traitement de chaque demande qui s'est améliorée. C'est pourquoi le directeur des relations citoyennes conclut que « l'emploi de ce robot est une véritable réussite ».

Dès le début, les citoyens de la ville de Plaisir ont été associés à la conception et la mise en place du robot conversationnel, Optimus. Ils ont pu l'entraîner pour l'améliorer. Aussi le robot fait-il, selon la mairie, l'objet d'un enthousiasme partagé par une large part de la population.

Pour autant, Khaled Belbachir souligne que « le robot n'a pas été adopté par toute la population », notamment parce que l'IA « fait aujourd'hui peur même si les usagers obtiennent la réponse souhaitée ». Aussi considère-t-il qu'il convient de « mener un travail de réassurance de la population, en lui expliquant que le robot n'a pas pour vocation de remplacer les agents mais de les aider ». À cet égard, le fondateur de la société Yelda, Thomas Guenoux, précise qu'il existe encore des défis sociaux tels que « l'adaptation des usages, le respect de la vie privée, la souveraineté des données et les biais de l'IA », ainsi que des « défis techniques qui peuvent rendre l'entreprise complexe et coûteuse ».

b) La sécurisation des grands événements : les Jeux Olympiques et Paralympiques à Paris

Les collectivités territoriales sont sujettes à de nombreux enjeux de sécurité, notamment lors de l'organisation de grands événements.  La sécurisation d'événements, et plus particulièrement de grands événements sportifs, récréatifs ou culturels, constitue un défi bien identifié par les élus locaux. Y faire face nécessite la mise en place d'importants moyens humains et financiers que les collectivités peinent parfois à mettre en place. Au regard de ces difficultés à allouer les moyens nécessaires à la sécurisation des espaces, l'IA est apparue comme porteuse de solutions dans certains cas.

C'est la sécurisation des sites destinés à accueillir les événements des Jeux Olympiques et Paralympiques de 2024 qui a mené le législateur à faire évoluer le droit en vigueur concernant le recours à l'IA en matière de sécurité. En effet, le recours à l'IA pour traiter les images de vidéosurveillance a été permis, dans un cadre expérimental répondant à des conditions précises, par la loi n° 2023-380 du 19 mai 2023 relative aux jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions.

La « sécurité augmentée » par l'IA :
des perspectives ouvertes par la loi du 19 mai 2023

L'IA au service de la sécurité : une « zone grise » de la législation avant la loi du 19 mai 2023

Jusqu'à la loi précitée du 19 mai 2023 relative aux Jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions, le recours à l'IA pour traiter les images captées par les vidéosurveillances n'était ni interdit, ni autorisé.  C'était en quelque sorte un impensé de la législation alors en vigueur. C'est pourquoi seules de rares collectivités avaient alors eu recours à ce type d'outils¹.

La loi précitée du 19 mai 2023 a apporté une clarification en la matière : le traitement algorithmique des images captées par les caméras de vidéosurveillance est interdit, il est uniquement permis dans un cadre expérimental.

Le cadre expérimental strictement prévu par la loi du 19 mai 2023

L'article 10 de la loi précitée du 19 mai 2023 permet le recours à des logiciels IA pour traiter les images de vidéosurveillance à des fins de sécurisation des espaces dans le cadre précis d'une expérimentation. Cette expérimentation est ouverte jusqu'au 31 mars 2025.

Ce recours est encadré par l'article 3 du décret d'application du 28 août 2023².  Ce décret limite le recours au traitement algorithmique des images captées par les caméras de vidéosurveillance à huit types d'événements :

- « présence d'objets abandonnés ;

- présence ou utilisation d'armes [...] ;

- non-respect par une personne ou un véhicule, du sens de circulation commun ;

- franchissement ou présence d'une personne ou d'un véhicule dans une zone interdite ou sensible ;

- présence d'une personne au sol à la suite d'une chute ;

- mouvement de foule ;

- densité trop importante de personnes ;

- départs de feux. »

De plus, l'article 10 prohibe tout usage du traitement algorithmique à des fins de reconnaissance faciale ou de recoupement avec plusieurs fichiers de données à caractère personnel.

La mise en place de cette expérimentation vise à déterminer les apports potentiels de l'IA à la sécurisation des grands événements en facilitant le travail de détection des risques dans des cas strictement définis.

¹ La non-autorisation semblait toutefois prévaloir puisque certaines de ces collectivités expérimentatrices ont fait l'objet de recours devant le tribunal administratif au terme desquels le juge a pu déclarer illégale l'installation de tels dispositifs.

² Décret n° 2023-828 du 28 août 2023 relatif aux modalités de mise en oeuvre des traitements algorithmiques sur les images collectées au moyen de systèmes de vidéoprotection et de caméras installées sur des aéronefs.

Pour mieux saisir ces enjeux de sécurité et les apports de l'IA en la matière, vos rapporteures ont auditionné la société Wintics. C'est cette entreprise qui a développé le logiciel IA Cityvision utilisé dans le cadre de l'expérimentation du traitement algorithmique des images captées par les caméras de vidéosurveillance à Paris.

Le 16 octobre 2024, lors de son audition par vos rapporteures,
Matthias Houllier, co-fondateur de cette société, a rappelé que « l'objectif de Cityvision est d'améliorer l'usage primaire de la caméra. La mission qui nous a été confiée dans le cadre de l'expérimentation permise par la loi du 19 mai 2023 consiste à faire analyser par l'IA les flux d'images captés par les caméras de vidéosurveillance de la ville de Paris afin d'en extraire des données transmises sous forme d'alertes en temps réel aux forces de sécurité qui décident elles-mêmes de ce qu'il convient de faire par la suite ».

Pour ce faire, le principe de fonctionnement du logiciel Cityvision est assez simple. Selon Matthias Houllier, « le logiciel se branche sur n'importe quel réseau de caméras déjà existant. Cette technologie peut être développée dans n'importe quel territoire ayant des caméras de vidéosurveillance ». À Paris par exemple, le cofondateur de Wintics indique que, depuis 2020, ce sont plus de 200 caméras qui ont été équipées du logiciel Cityvision. Il convient de préciser que Wintics vend une licence : le logiciel peut donc être branché à différentes caméras au cours de l'année d'abonnement souscrit par la collectivité. Le coût du recours au logiciel Wintics comprend l'usage de cette licence ainsi que les frais de maintenance annuelle.

À rebours de certaines craintes concernant le recours à l'IA à des fins sécuritaires, Matthias Houllier a tenu à préciser que « le logiciel est conçu pour être très peu intrusif : il ne fait que relever des événements purement objectifs sans remplacement de l'être humain », en témoignent la transmission de seules « alertes » aux forces de sécurité et le fait que les images analysées par l'IA ne sont pas stockées par la société. L'IA sauvegarde ce qu'elle analyse sur les images, mais elle ne sauvegarde pas les images elles-mêmes. Seules les données à caractère non-personnel sont stockées par le logiciel. De plus, aucune reconnaissance faciale n'est possible par l'intermédiaire de ce logiciel : « Si l'on veut le faire, il faut jeter le logiciel et en choisir un autre car il n'est pas codé pour faire cela » indique Matthias Houllier lors de son audition. Wintics fournit le logiciel, l'installe et forme les agents à son utilisation avant de laisser son pilotage à la main des collectivités.

Néanmoins, malgré les évolutions législatives qui ont donné lieu à l'instauration d'un cadre expérimental permettant le recours de l'IA à des fins de sécurisation, le co-fondateur de Wintics souligne que des « zones grises » demeurent.

Premièrement, le recours à l'IA en matière de sécurité n'est permis qu'à titre expérimental, aucune pérennisation législative n'est prévue à ce stade.

Secondement, Matthias Houllier a indiqué que la majorité des ventes du logiciel Cityvision à des collectivités ne se font pas en direct mais de manière intermédiée, c'est-à-dire via des entreprises dites « intégrateurs de systèmes » (Eiffage, Vinci...)^8(*). Ces entreprises collaborent en effet avec les collectivités pour les accompagner dans divers projets (urbanisme, voirie, stationnement...). La couche supplémentaire qu'elles représentent entre la collectivité et le fournisseur d'IA n'est pas sans conséquence : la plupart du temps, les collectivités ne sont pas conscientes que des logiciels IA peuvent être reliés par les « intégrateurs de système » à certaines caméras installées sur leur territoire. Par exemple, ce cas peut se rencontrer dans un parking sous-terrain confié en délégation de service public (DSP). A fortiori, les collectivités ignorent encore davantage, selon Matthias Houllier, les initiatives que pourrait prendre un sous-traitant de ces mêmes entreprises « intégrateurs de systèmes ».

c) L'optimisation de la ressource en eau : la commune de Saint-Savin et la Communauté d'agglomération Porte de l'Isère

En France, les pertes d'eau causées par la dégradation des canalisations sont estimées à plus de 900 millions de mètres cubes par an^9(*),
soit 20 % de l'eau potable produite. Ces déperditions s'expliquent essentiellement par la vétusté des réseaux d'eau : certaines canalisations encore en activité ont été installées au lendemain de la Seconde Guerre mondiale, alors même que la durée de vie moyenne d'un tel équipement est estimée à cinquante ans.

Le renouvellement des réseaux d'eau est très coûteux. Or, ce sont les communes et les établissements public de coopération intercommunale (EPCI) qui ont à leur charge l'entretien des réseaux d'adduction d'eau. Dans un contexte budgétaire contraint, les collectivités doivent donc procéder à des arbitrages afin de réaliser prioritairement des travaux sur les portions de réseaux qui en ont le plus besoin.

L'IA peut alors permettre d'identifier ces portions de réseaux d'eau et donc constituer un « outil d'aide à la décision » pour les décideurs locaux.

Créée en 2019, la société Leakmited a ainsi développé un algorithme prédictif visant à faciliter et optimiser le travail des chercheurs de fuites : il identifie les zones dans lesquelles les recherches doivent être concentrées.

Présenté par son fondateur, Hubert Baya-Toda, lors de son audition le 30 avril 2024, ce logiciel offre deux solutions aux collectivités.

La première est une solution curative appelée Solution Sprint. Il s'agit d'un « service clé en main de recherche de fuites basé sur l'IA et rémunéré à la performance ». Ce service est assorti d'une garantie de résultat puisqu'aucune facturation n'est réalisée si le taux de réussite est inférieur à 20 %.

Lors de son audition le 30 avril 2024, Fabien Durand, maire de Saint-Savin (4 264 habitants) et vice-président délégué au cycle de l'eau de la communauté d'agglomération porte de l'Isère (CAPI, 111 000 habitants), a indiqué avoir recours à la solution curative de Leakmited sur le territoire de sa commune et de l'intercommunalité.

Dans la commune de Saint-Savin, le maire se félicite que « l'algorithme a permis d'identifier cinq fuites en une semaine, permettant ainsi de sauver 150 m³ d'eau par jour. Alors que la commune distribuait quotidiennement 800 m³ d'eau, elle n'en facturait en réalité que 600 m³, 200 m³ d'eau étaient alors perdus dans la nature ». Selon le maire, « après l'intervention de Leakmited, le rendement du réseau d'eau savinois est ainsi passé de 75 % à 90 % ».

Sur le territoire de la CAPI, le vice-président mentionne que « quinze fuites ont pu être identifiées en trois semaines alors même que les techniques traditionnelles ne permettaient jusqu'alors que d'en détecter, en moyenne, soixante-quinze par an ».

La seconde solution proposée par Leakmited est une solution préventive sous forme de « jumeau numérique ». Il s'agit d'un « outil d'aide à la décision pour une meilleure allocation du budget de rénovation » qui consiste à « cibler les chantiers à rénover » grâce à l'IA. Concrètement, ce « jumeau numérique » met en avant les sections du réseau qui nécessiteraient une restauration au vu de leur date de construction et des travaux annexes déjà prévus dans la zone. Lors de son audition, le fondateur de Leakmited a néanmoins insisté sur « l'autonomie complète de l'utilisateur dans les jeux de scénarii », l'objectif du logiciel étant de proposer une « optimisation des coûts d'investissements des secteurs de renouvellement » et ainsi de constituer un outil « d'aide à la décision », et non de se substituer aux décideurs.

d) La gestion des déchets : la lutte contre le gaspillage alimentaire dans les cantines à Nantes Métropole

Depuis la loi n° 2015-991 du 7 août 2015 portant nouvelle organisation territoriale de la République dite « loi NOTRe », le service public de gestion des déchets ménagers et des déchets « assimilés » est une compétence obligatoire des EPCI. L'exercice de cette compétence revêt un coût non négligeable pour les EPCI et leurs communes membres puisqu'en 2023, la Cour des comptes l'estimait à 123 euros par an et par habitant^10(*). Majoritairement financée par la fiscalité (taxe ou redevance d'enlèvement des ordures ménagères), la politique publique de gestion des déchets peut être « optimisée » par l'IA.

En 2021, dans le cadre d'une expérimentation, la métropole de Nantes a mandaté la société Verteego afin de mettre en place un outil d'IA visant à lutter contre le gaspillage alimentaire dans les cantines.

La réduction des gaspillages alimentaires dans les cantines : les grandes étapes du projet conduit à Nantes Métropole

Source : entreprise Verteego

Clément Guillon, chef des opérations de la société Verteego, précise que la technologie conçue par son entreprise consiste en pratique à « optimiser les commandes en prévoyant le nombre de couverts nécessaires jusqu'à 10 semaines en avance ». Cela permet alors de « réduire les surplus alimentaires et le gaspillage, tout en ajustant au mieux les volumes de commandes des composants de menus auprès des fournisseurs ». Au quotidien dans les cantines, c'est l'humain qui a la main pour ajuster le nombre de repas à préparer en fonction de la prévision livrée par l'algorithme.

L'évaluation de cette expérimentation s'est fondée sur le critère de la fiabilité des prévisions, bien que Clément Guillon souligne qu'« en général, l'évaluation des résultats d'un tel outil impliquerait plusieurs indicateurs clés de performance (réduction du gaspillage alimentaire, amélioration de l'exactitude des prévisions, économies réalisées, satisfaction des utilisateurs, impact environnemental en CO2 évité...) ».

Les résultats de l'évaluation ont ainsi montré que « sauf jours de grève et jours sans données, l'outil d'IA déployé par Verteego à Nantes Métropole pour lutter contre le gaspillage alimentaire dans les cantines a montré des améliorations significatives dans la précision des prévisions alimentaires ».

Par exemple, la méthode traditionnelle de prévision de la cantine centrale, réalisée trois semaines à l'avance, « atteignait une précision de 93 % ». Si cette performance apparaît bonne, le directeur des opérations de Verteego souligne que « la marge d'erreur laisse une place notable pour le gaspillage alimentaire et les ajustements de dernière minute ». Avec l'introduction de l'IA, la précision des prévisions a pu s'améliorer en atteignant une « moyenne de 98 % dix semaines à l'avance ». Ainsi l'IA a-t-elle permis « d'offrir une marge de manoeuvre beaucoup plus large pour la planification et l'ajustement des commandes, réduisant ainsi potentiellement le gaspillage alimentaire ».

L'introduction de l'IA permet à la métropole de Nantes de mieux ajuster les quantités de nourriture préparées à la demande réelle et, ce faisant, de maximiser les économies. Sur un an, c'est au total l'équivalent de plusieurs milliers de repas qui sont économisés.

Selon la complexité du projet, le périmètre d'application et les besoins spécifiques des collectivités mandataires, l'abonnement pluriannuel pour la solution proposée par Verteego varie entre 50 000 euros et 100 000 euros hors taxes.

e) La prévision des événements naturels : le risque d'inondation à Nîmes

Comme le soulignaient Guy Benarroche, Laurent Burgoa et
Pascal Martin dans leur rapport « Transition environnementale : aider les collectivités locales à s'organiser »^11(*), les collectivités locales sont en première ligne face aux effets du dérèglement climatique et, parmi eux, de l'augmentation du risque d'inondation. Leur rapport rappelait que l'action des élus locaux face à ces enjeux « n'est pas simple à mettre en oeuvre et comporte de multiples volets ». Se pose alors la question de la manière d'agir pour permettre aux acteurs locaux d'atténuer les effets du dérèglement climatique et d'adapter le territoire à ces risques.

Là encore, l'IA est apparue comme porteuse de solutions pour certains territoires. Ainsi, la ville de Nîmes recourt-elle à l'IA pour mieux anticiper le risque d'inondation sur son territoire.

À Nîmes, l'IA fait partie intégrante du dispositif de prévention des événements naturels. Ce dispositif s'est mis en place progressivement au fil des années à partir d'un événement déclencheur : les inondations du 3 octobre 1988 qui, en huit heures, ont vu plus de 400 litres d'eau au mètre carré se déverser sur la ville et ont provoqué la mort de neuf personnes, le relogement de plus de 45 000 autres et environ 600 millions d'euros de dégâts. Dans une contribution écrite adressée à vos rapporteures,
Pascale Venturini, adjointe au maire déléguée à l'environnement et à la transition écologique, aux énergies renouvelables et au chauffage urbain, indique que « depuis la crue de 1988, la ville de Nîmes a énormément investi dans son dispositif de prévision et de protection avec notamment l'aménagement des cadereaux et des bassins de rétention. »

Les crues du 3 octobre 1988 à Nîmes

La Place de la Maison Carrée inondée. (c) Georges MATHON.

Entonnement du cadereau d'Alès, aux portes du centre-ville (c)Ville de Nîmes.

En effet, les crues du 3 octobre 1988 ont mis en lumière l'extrême vulnérabilité de la ville de Nîmes au risque d'inondation. L'adjointe au maire souligne ainsi que « par sa situation géographique, la ville de Nîmes est concernée par deux types d'inondations : inondation par débordement de cours d'eau et inondation par ruissellement sur les voiries et zones urbanisées. La spécificité la plus importante se porte sur la nature des inondations qui sont dites torrentielles ou également « crues éclairs ». Ces crues interviennent rapidement (moins d'une heure) et sont très éphémères (une inondation ne dure pas plus de trois heures). Cette temporalité est à coupler avec des risques et aléas très importants. »

La ville de Nîmes a donc choisi de recourir à l'IA dans le cadre de son dispositif de prévention et de protection des risques d'inondations.
C'est le projet Hydr.IA développé à partir de 2018. Pascale Venturini explique que « le projet Hydr.IA vise à permettre de déployer des modèles par IA pour accompagner la gestion de crise. Les modèles par IA ont la capacité d'apprendre les fonctionnements naturels d'un territoire sans nécessiter l'étude approfondie et coûteuse d'un bassin versant. En plus d'être moins coûteux, les modèles par IA ont la capacité d'apprendre en continu et ainsi de s'adapter aux changements dus au dérèglement climatique mais également aux aménagements du territoire (nouveau bassin de rétention, modification des cadereaux...). Ainsi, dans un territoire en constante évolution tel que la ville de Nîmes, l'IA se positionne comme une technologie très avantageuse pour l'évolution des outils à disposition des gestionnaires des événements d'inondations. » L'IA permet, par exemple, d'ajuster en temps réel les prévisions grâce à sa connexion directe avec des limnigraphes permettant de saisir les variations du niveau des cours d'eau. Selon l'adjointe au maire, à l'avenir, ce « projet permettra d'anticiper les impacts et d'agir en amont pour protéger les habitants et les habitations ». Les capacités de l'IA en termes de prédiction, d'évolution et de stockage des données sont mises au service de la gestion de crises liées aux événements naturels.

Par ailleurs, le projet Hydr.IA a permis le développement de véritables synergies entre les secteurs public et privé au service de la prévention du risque d'inondation. Pascale Venturini indique que le projet Hydr.IA n'est pas le fait de la seule ville de Nîmes. Aux côtés de la ville se trouve l'Unité Mixte de Recherche (UMR) Hydro-sciences de Montpellier (HSM), au travers de l'équipe « Eau, Ressources, Territoires » (ERT) et de l'Institut Mines-Télécom (IMT) d'Alès : « Cette équipe est responsable de la partie recherches scientifiques pour la levée des verrous et l'obtention de nouveaux modèles capables de faire de la simulation et / ou de la prévision hydrologique dans des contextes particuliers ». Est également associée au projet l'entreprise Synapse qui, selon les mots de l'adjointe au maire, « a pour rôle de faire passer les résultats de recherche à un niveau opérationnel et de les intégrer aux outils de gestion de la ressource en eau afin de mettre les modèles par IA à disposition des gestionnaires de la ressource en eau ».

Ce projet entraîne des coûts limités pour la ville du fait de la position de « site pilote » de Nîmes, comme le souligne Pascale Venturini : « Dans ce projet, la ville de Nîmes, au travers de la mission ESPADA^12(*), intervient comme un site pilote. L'équipe ESPADA fournit des données et exerce un rôle d'expertise des résultats issu des travaux de recherche. Ainsi, la ville de Nîmes n'engage pas de frais financiers autres que le temps passé des agents faisant partie de la mission ESPADA ».

f) Les mobilités sur le territoire : une meilleure connaissance des places de stationnement sur la commune de Labège (Communauté d'agglomération du Sicoval - Haute-Garonne)

Le 15 mai 2024, lors de son audition, Pascal Berteaud, directeur général du CEREMA, identifiait le thème des mobilités comme un domaine d'utilisation privilégié de l'IA : « l'IA peut contribuer à l'élaboration et l'évaluation des politiques publiques de mobilité ainsi qu'à l'émergence de services innovants au bénéfice des usagers ».

Selon lui, l'IA peut par exemple permettre :

- « d'analyser les données de déplacement pour mieux comprendre les comportements de mobilité ;

- d'identifier les tendances de mobilité ;

- d'identifier les zones de congestion ;

- d'identifier les besoins d'optimisation de l'usage des infrastructures existantes ;

- d'améliorer la planification des itinéraires, la gestion des trafics et la réduction des temps d'attente pour les usagers des transports en commun ;

- de contribuer au développement de systèmes de transports routiers automatisés. »

Auditionné par vos rapporteures le 23 octobre 2024, Dominique Marty, conseiller communautaire délégué à la transformation numérique au sein de la communauté d'agglomération du Sicoval, indique que « la communauté d'agglomération du Sicoval porte dans son ADN l'innovation mais toujours au service des politiques territoriales et des valeurs portées par les élus (inclusivité, sobriété, éthique, souveraineté). » Parmi les politiques territoriales au service desquelles l'innovation a été développée par la communauté d'agglomération figure la politique des mobilités.

Au Sicoval, l'IA est utilisée pour divers projets relatifs aux mobilités. Par exemple, avec la direction départementale du territoire (DDT) de la Haute-Garonne, la communauté d'agglomération a ainsi pu développer un « tracking GPS pour améliorer la politique de la mobilité avec la contribution des citoyens » témoigne Dominique Marty. Ce système de traceur par GPS permet de localiser un véhicule, de suivre son trajet et d'optimiser le temps de transport.

L'intercommunalité a également recouru à l'IA pour concevoir un catalogue de services relatifs au système d'information géographique (SIG) ouverts aux agents de l'intercommunalité et mutualisés aux 35 communes composant la communauté d'agglomération. Cette initiative a permis de concevoir des référentiels (sur les places de parking, l'accessibilité...) et de mettre en place des outils d'aide à la décision.

Dans le cadre d'une expérimentation, la communauté d'agglomération a également eu recours à l'IA pour recenser, dans la commune de Labège et plus particulièrement sur une zone d'aménagement à vocation économique (ZAE), les places de parking ainsi que leurs caractéristiques (par exemple, le nombre et la localisation de places réservées aux personnes en situation de handicap).

Le recensement des places de stationnement à Labège

Étape 2 - Localisation des places stratégiques pour l'installation d'ombrières photovoltaïques

Étape 1 - Localisation des places de parking situés dans la ZAE

Résultat 1 - Identification des places réservées aux personnes en situation de handicap.

Résultat 2 - Identification des places réservées aux personnes en situation de handicap (grâce à l'IA) et du taux d'occupation des places à une heure déterminée (complémentaire de l'IA).

Source : Sicoval

Le conseiller communautaire explique ainsi que « sur la base d'une photo aérienne fournie par le service SIG, cette détection a permis d'identifier les zones stratégiques à contrôler (zones exploitables en ombrières photovoltaïques par exemple), mais aussi les zones à compléter avec des informations manquantes ne pouvant pas être détectées par cette technologie (taux d'occupation à des horaires identifiés) ».

II. UNE STRATÉGIE POUR RÉUSSIR LE RENDEZ-VOUS AVEC L'IA

A. UNE DOCTRINE DE TRANSPARENCE NÉCESSAIRE

1. Le levier de la formation

Comme tout nouvel outil, l'IA suscite des craintes, notamment sur l'emploi. Dans les collectivités territoriales, les agents ne sont pas épargnés par cette inquiétude : l'IA va-t-elle supprimer des emplois ?

À cette question de l'emploi dans la fonction publique territoriale, il n'existe pas de réponse documentée, aucune étude n'y ayant été spécifiquement consacrée. Pour autant, le rapport précité de la Commission de l'IA, « IA : notre ambition pour la France », tente de livrer quelques clefs de lecture macroéconomiques.

L'IA : créatrice ou destructrice d'emplois ?

(extrait du rapport de la Commission de l'IA, « IA : notre ambition pour la France », mars 2024)

« L'IA permet en particulier l'automatisation de tâches, qui est un moteur essentiel de la croissance économique (...), [ce qui] implique deux effets contraires sur l'emploi. D'un côté, l'automatisation déplace certaines tâches du travail humain vers les machines, ce qui tend à détruire des emplois : c'est l'effet d'éviction. De l'autre, l'automatisation augmente la productivité des individus, ce qui conduit à une augmentation du rapport qualité / prix des produits proposés aux consommateurs, donc à une demande plus élevée et, in fine, davantage d'embauches et la création de nouvelles tâches : c'est l'effet de productivité.

« (...)

« Notre propre analyse empirique suggère un effet positif de l'IA sur l'emploi dans les entreprises qui adoptent l'IA, car celle-ci remplace des tâches, et non des emplois. Dans 19 emplois sur 20, il existe des tâches que l'IA ne peut pas accomplir. Les emplois directement remplaçables par l'IA ne représenteraient donc que 5 % des emplois d'un pays comme la France. Par ailleurs, la diffusion de l'IA va créer des emplois, dans de nouveaux métiers, mais aussi dans d'anciens métiers. Au total, certains secteurs ou certains domaines pourraient connaître des baisses nettes d'emplois, qui doivent être accompagnées par les pouvoirs publics, mais cela n'implique pas que l'IA aura un effet négatif sur l'emploi national en France ».

Cette analyse macroéconomique mérite d'être complétée par une approche plus « micro » à l'échelle d'une collectivité territoriale. Or, il se trouve que, dans le cadre d'un projet collectif à la ville de Lyon portant sur les enjeux de l'IA, des élèves de l'institut national des études territoriales (INET) ont produit, en avril 2024, une cartographie des métiers concernés par les évolutions induites par l'IA générative. Apportant un éclairage intéressant, cette cartographie se fonde sur la méthodologie de l'organisation mondiale du travail (OMT) pour analyser les effets de l'IA en termes de ressources humaines.

L'impact de l'IA générative sur les métiers dans une commune :

une cartographie par les élèves de l'INET

« Les résultats statistiques de l'étude des élèves de l'INET sur les métiers de la commune témoin correspondent aux conclusions de l'étude de l'OMT.

« Les chercheurs et analystes de l'OMT ont en effet déterminé que le groupe de métiers le plus concerné par l'IA générative est celui des employés de bureau. En moyenne, près de 82 % de leurs tâches peuvent être effectuées, en totalité ou en partie, par une IA générative comme GPT 4. Il en résulte en conséquence que les métiers d'agent d'accueil et d'assistant de gestion soient fortement concernés, et que les agents de catégorie C représentent la part la plus importante des métiers très concernés par des évolutions potentielles.

« Selon l'étude de l'OMT, contrairement aux révolutions technologiques antérieures, les « cols blancs » sont davantage concernés que les « cols bleus » par des évolutions de leurs métiers : cela s'explique par la capacité sans précédent des IA génératives à réaliser des tâches cognitives complexes. Cette tendance est confirmée au sein de la commune par la surreprésentation des filières administrative et culturelle parmi les agents concernés.

« L'analyse de l'étude précitée montre qu'il faudrait s'attendre davantage à une évolution des métiers induite par l'IA qu'à une disparition massive de certains d'entre eux.

« Dans les pays développés, 13,2 % des emplois disposent d'une gamme de tâches pour lesquelles l'IA générative peut contribuer à améliorer la productivité, sans se substituer à l'humain, tandis que 5,5 % des emplois pourraient être effectués par l'IA générative seule, ce qui reste significatif.

« Toutefois, l'étude de l'OMT ne met pas en avant de potentiels nouveaux métiers générés par l'IA : elle rappelle que près de 60 % des emplois présents aux États-Unis en 2018 n'existaient pas dans les années 1940. À cet égard, il ne faut pas s'attendre à une disparition massive de certains métiers au sein de la commune témoin, mais plutôt à des évolutions du contenu des tâches des métiers : par exemple la saisie de données pourrait être remplacée par du temps de travail dédié à l'analyse des dossiers ou des données.

« Enfin, les travaux de l'OMT soulignent une exposition plus forte des femmes à l'arrivée de l'IA générative, notamment pour les emplois très concernés, en raison de leur surreprésentation dans les métiers de bureau. Il n'a pas pu être déterminé une exposition différenciée à l'IA en fonction du sexe dans l'étude pour la commune témoin, dû à l'absence de données. Il est tout de même possible d'anticiper une même incidence différenciée, notamment à la lecture des métiers les plus fortement exposés, fortement féminisés ».

Évolution des tâches, mutation des métiers, suppression de postes, montée en compétences... les arguments ne manquent pas pour souligner l'impératif de former à l'usage de l'IA. Mais la première des raisons se trouve assurément dans la nécessité de faire tomber les barrières psychologiques et d'offrir à tous, élus locaux comme agents territoriaux, un socle de connaissances de base.

Ainsi que le souligne le cercle des acteurs territoriaux dans son rapport précité, « il est effectivement important que la formation à l'IA soit envisagée comme un investissement stratégique qui ne concerne pas seulement les DSI, informaticiens ou data scientists, mais tous les agents et les cadres. Tous ne sont certes pas au même niveau, mais nous sommes beaucoup à partir de très loin ». Si la formation constitue un investissement stratégique, celle à l'IA présente d'autant plus d'intérêt que la diffusion de cette technologie est rapide et concerne des pans entiers de la vie professionnelle.

Dans cette perspective, l'offre de formation tend à se mettre en place. Elle émane d'acteurs privés spécialisés en formation ou très bien insérés dans le monde des collectivités : par exemple, La Gazette des communes au travers d'un module « Faire de l'IA un levier de performance RH ». Elle peut également être proposée par des institutions publiques telles que le centre national de la fonction publique territoriale (CNFPT).

Dans le catalogue du CNFPT, un exemple de module de sensibilisation aux enjeux de l'IA

Source : CNFPT / INET

Concernant la diffusion d'une culture IA, Jacques Priol, président-fondateur du cabinet CIVITEO et président de l'Observatoire Data Publica, appelle à un devoir de vigilance. Il estime que « l'acculturation ne doit pas reposer sur les seuls géants du secteur (Microsoft, Google...), au risque de perdre la maîtrise des données et donc, à terme, la maîtrise des politiques publiques ».

Malgré tout, les collectivités territoriales sont nombreuses à déplorer une offre de formation encore insuffisante. Dans l'édition 2023 du « Baromètre de la data dans les territoires », l'Observatoire Data Publica indique en effet que 29 % des collectivités répondantes font part de ce regret.

L'offre de formation demande donc, du point de vue quantitatif, à être étoffée pour répondre à des besoins croissants de la part des collectivités territoriales. Elle doit également, du point de vue du contenu, être enrichie pour correspondre au plus près aux évolutions des tâches, des métiers et de l'IA elle-même. À cet égard par exemple, le cercle des acteurs territoriaux envisage une démarche de formation intéressante : « si, par analogie avec la transition écologique et les Fresque du climat ou Fresque du Nume'rique existantes nous imaginions une Fresque de l'IA afin de sensibiliser et former les agents aux enjeux et aux risques, partager les grandes lignes des actions à mettre en place, ouvrir des discussions entre les participants sur le sujet et démystifier les peurs que l'IA génère »^13(*). 

Proposition n° 1 : pour les élus locaux et les agents publics territoriaux, développer l'offre en modules de sensibilisation et de formation à l'IA.

Délai : 3 ans

Acteur(s) : associations d'élus locaux, CNFPT, Centres de gestion (CDG)

2. L'appropriation citoyenne

En tant qu'innovation, l'IA dans les services publics locaux est, ou sera, inévitablement sujette à un débat autour de l'opportunité d'y recourir ou, pour le dire autrement, autour de son acceptabilité. Elle véhicule en effet un certain nombre de questionnements profonds, porteurs tantôt d'espérances tantôt d'inquiétudes : la perspective de services plus disponibles et plus efficaces, la réduction des délais administratifs... mais aussi la disparition d'emplois, la perte de maîtrise par l'humain et la déshumanisation du service public, le coût environnemental...

Un tel débat est parfaitement sain, traduisant une démocratie (locale) en éveil. Il constitue un préalable utile, voire indispensable, pour prétendre à l'adhésion de la population au recours à l'IA. Du fait des fantasmes nourris autour de cette technologie, l'IA doit être démystifiée pour que ses enjeux, ses potentialités et ses limites soient mieux compris.

Pour atteindre cet objectif d'appropriation citoyenne, la démocratie implicative offre une voie intéressante de passage au niveau local. Mise en évidence par Françoise Gatel, alors Présidente de notre délégation, et notre collègue alors Jean-Michel Houllegatte, dans leur rapport « Pour une nouvelle dynamique démocratique à partir des territoires : la démocratie implicative »^14(*), cette déclinaison de la démocratie locale s'applique à associer étroitement le citoyen à la prise de décision publique. Vertueux et fructueux, ce dialogue paraît particulièrement bien adapté au déploiement de l'IA au sein de nos collectivités.

La Métropole de Montpellier a d'ailleurs perçu cet intérêt et a mis en place une « Convention citoyenne pour l'IA au service des habitants et du territoire ».

À Montpellier Méditerranée Métropole : la « Convention citoyenne pour l'IA au service des habitants et du territoire »

Composée de 40 citoyens sélectionnés sur des critères représentatifs (âge, catégorie socio-professionnelle, genre, commune d'habitation...) parmi les 500 000 habitants de la Métropole, cette convention s'est réunie durant trois week-ends, entre novembre 2023 et février 2024, à Montpellier afin de répondre à la question : « Quelle IA au service des habitants et du territoire ? ». Elle était accompagnée d'un Comité de six experts¹.

Ce travail spécifique sur l'IA s'inscrit dans le cadre plus large d'une stratégie métropolitaine de l'IA et de la donnée. Ainsi que le souligne Michaël Delafosse, Maire de Montpellier et Président de Montpellier Méditerranée Métropole, cette approche de l'IA se caractérise par la méthode « du faire ensemble », un « partage avec les citoyens » et « une dynamique de partage entre les acteurs de la recherche, les entreprises et les collectivités territoriales ».

Cinq principes ont guidé les travaux de la Convention citoyenne : construire la confiance, construire la transparence, agir avec éthique et mesure, agir avec maîtrise et agir de façon démocratique.

Au terme de leurs travaux de réflexion, les citoyens ont formulé des recommandations, mais aussi posé des conditions pour le « déploiement d'IA publiques de confiance au service du territoire et des habitants ».

Dans le détail, « la Convention citoyenne demande à la Métropole de Montpellier de veiller à choisir des IA véritablement utiles. Elle juge essentiel que leur impact environnemental soit maîtrisé et que la protection de la vie privée soit garantie. Elle souhaite l'instauration de dispositifs de contrôle neutres et indépendants ainsi que l'instauration de règles de transparence. La Convention souhaite aussi que la Métropole soit autonome dans sa capacité à garder la maîtrise de ces outils d'IA. Elle propose un cadre pour son déploiement dans le service public, au bénéfice des usagers et dans l'accompagnement des agents publics ».

Enfin, parce que l'IA doit être l'affaire de tous, la Convention propose aussi des actions en faveur de la formation du plus grand nombre.

Parmi les bénéfices évidents de cette expérience conduite dans le cadre de la métropole montpelliéraine, figure notamment l'intérêt de saisir le citoyen en amont des projets IA, afin de recueillir son avis et d'enrichir ensuite leurs contenus.

¹ Ce Comité était composé de :

- Cédric Villani, enseignant-chercheur à l'Université de Lyon, titulaire de la médaille Fields (2010), ancien directeur de l'Institut Poincaré ; 

- Anne Laurent, vice-présidente déléguée à la science ouverte et aux données de la recherche de l'Université de Montpellier, directrice de l'Institut de sciences des données de Montpellier (ISDM), directrice de l'Institut de sciences des données de Montpellier (ISDM), professeur des universités en informatique dans les domaines des bases de données et de l'IA ; 

- Serge Tisseron, psychiatre, docteur en psychologue, membre du Conseil national du Numérique (CNNum) ;

- Bertrand Monthubert, Président d'Ekitia ;

- Emmanuelle Rial-Sebbag, Responsable de l'éthique - Ekitia ; 

- Arnault Ioualalen, Président Directeur Général de l'entreprise Numalis.

Source : Montpellier Méditerranée Métropole

Proposition n° 2 : impliquer le citoyen dans l'introduction de l'IA au sein des services publics locaux afin de s'assurer de l'acceptation citoyenne et de se prémunir contre un risque de déshumanisation des services.

Délai : 3 ans

Acteur(s) : collectivités territoriales

B. UNE CULTURE DE LA DONNÉE

1. Les modèles de management des données

La prise de conscience de l'importance de la data tend à s'imposer dans le monde des collectivités territoriales depuis quelques années. Deux événements marquants ont d'ailleurs joué un rôle d'accélérateur dans ce sens. D'une part, la crise sanitaire de la Covid-19 a brutalement mis en évidence l'importance de disposer de données publiques fiables pour répondre à une situation d'urgence^15(*). D'autre part, l'envolée des prix de l'énergie à la suite du conflit en Ukraine^16(*) a montré l'intérêt de récupérer les données de consommation en électricité pour chercher à réaliser des économies et des projections budgétaires soutenables. À cette époque, une commune a d'ailleurs été particulièrement en pointe et sous les feux de l'actualité : Saint-Sulpice-la-Forêt. En installant une soixantaine de capteurs sur l'ensemble de ses bâtiments publics, elle a en effet dégagé près de 45 000 euros d'économies en six ans.

Pour collecter puis utiliser la data dans le cadre d'un projet IA, les collectivités territoriales doivent néanmoins s'organiser. Pour celles en ayant la capacité du point de vue budgétaire et en termes de ressources humaines, il s'agit de développer en interne sa propre expertise.

Le rapport précité de l'Observatoire Data Publica fournit, à cet égard, un tableau d'ensemble instructif. Il relève que « l'implication de la direction générale des services (DGS) dans la gestion des données n'est pas marginale :  elle est leader, ou fait preuve d'une implication forte, dans 38 % des cas. Le constat est encore plus clair si l'on considère les résultats pondérés [ie selon la taille des collectivités territoriales]. À l'inverse, il est très rare que la DGS ne fasse montre d'aucune implication dans ces sujets. La comparaison avec l'an dernier fait clairement apparaître une plus grande implication des DGS, notamment dans les communes et les établissements publics de coopération intercommunale (EPCI) ».

Les directions informatiques sont également « impliquées comme leader ou de manière forte dans 60 % des collectivités. Paradoxalement, c'est surtout dans les régions et les métropoles que les DSI sont les moins impliquées - sans doute parce que, dans ces structures, il peut y avoir des services en charge des données de manière autonome ». La montée en charge des directions informatiques est particulièrement notable dans les départements.

Les services pilotant les systèmes d'information géographique (SIG) « sont le dernier service jouant assez souvent un rôle leader en matière de gestion des données. C'est assez logique, puisque dans de nombreuses collectivités ces services existent depuis longtemps et disposent de compétences précieuses pour gérer le patrimoine de données de la collectivité ».

Par contre, les services des archives exercent rarement un rôle moteur, même si « leur implication apparaît "forte" dans un nombre non négligeable de cas (18 % des répondants), en particulier dans de "grosses collectivités" (départements, EPCI, métropoles) ». L'implication du service Communication, tout comme des services techniques, est généralement plus ponctuelle, mais caractéristique des communes de moins de 100 000 habitants.

À partir de là, quatre modèles d'organisation peuvent être identifiés dans les collectivités territoriales cherchant à gérer leurs données.

Le premier modèle s'ordonne autour de la création d'un poste d'administrateur général des données, Chief Data Officer. Il concerne prioritairement les « grandes » collectivités, tout particulièrement les métropoles, mais également les départements et les régions. La métropole de Lyon a d'ailleurs été précurseure dans cette voie. Dans son rapport en 2023, l'Observatoire Data Publica observait que « des nominations de Chief Data Officer sont annoncées pour les douze prochains mois, notamment dans les régions, les métropoles et les EPCI », ce qui témoigne de l'intérêt de ce mode d'organisation pour les collectivités disposant d'une taille critique suffisante. Il est d'ailleurs retenu par 24 % des répondants au questionnaire de l'Observatoire.

Plus décentralisée, la deuxième approche se structure autour d'un réseau de référents data. Ce réseau peut d'ailleurs se rattacher à la nomination d'un Chief Data Officer. S'agissant de cette organisation en réseau, l'Observatoire Data Publica note que « la taille de la collectivité est ici très prédictive : l'intégralité des régions répondantes est dotée d'un réseau de référents ou en mettra un en place dans les douze prochains mois, tout comme la plupart des métropoles. Dans les autres collectivités, si la mise en place d'un réseau de correspondants est prévue dans environ un quart des cas, une majorité ne prévoit pas de s'en doter à court terme ».

Le Comité data représente une troisième voie d'organisation, il renvoie à l'instauration de ce qui s'apparente à un « comité stratégique ». Placé par exemple sous la responsabilité de la DGS, il se réunit régulièrement (tous les deux mois à Dijon, par exemple), parfois en présence d'élus. Il a pour mission de coordonner la gestion des données à l'échelle de la collectivité. L'Observatoire Data Publica précise que le Comité data « pourrait se développer pour devenir une modalité relativement répandue de management de la donnée : 19 % des répondants annoncent avoir prévu d'en mettre un en place dans les douze prochains mois. Cela concerne notamment les métropoles et les régions, qui prévoient quasiment toutes d'en être équipées ».

Enfin, la dernière formule, correspond à la création d'une Direction de la donnée. Il s'agit bien évidemment d'une structure plus lourde, exigeant le déploiement de moyens humains et budgétaires plus conséquents. Dès lors, elle ne peut être retenue que dans des collectivités d'une taille suffisante. L'Observatoire Data Publica observe néanmoins que « les métropoles et régions sont équipées dans environ un quart des cas et annoncent envisager de le faire, dans l'année, dans un autre quart » et qu'« une proportion non négligeable de communes annoncent envisager d'en créer une ». Ce choix d'une direction de la donnée a notamment été celui de communauté d'agglomération de la région Nazairienne et de l'Estuaire (CARENE), pionnière dans cette voie.

Une fois ces options théoriques passées en revue, la question se pose en pratique de savoir combien de collectivités territoriales ont déjà opté pour l'une ou l'autre de ces formules. D'après Jacques Priol, il y aurait déjà une quarantaine de collectivités engagées sur une organisation structurée du traitement des données. Même si ce chiffre est dans l'absolu plutôt conséquent au regard du caractère récent de l'émergence de l'IA, force est de remarquer que ce ratio est extrêmement faible ramené à l'ensemble des collectivités sur le territoire.

Pour autant, toutes les collectivités territoriales n'ont pas vocation à se lancer dans une « course à l'armement » pour traiter la donnée. Le critère discriminant essentiel réside bien évidemment dans la taille de la collectivité, qui conditionne ses capacités budgétaires, ses ressources humaines et le volume de données la concernant. Il ressort des auditions conduites par vos rapporteures que le point de bascule entre les collectivités se situe vraisemblablement aux alentours de 30 000 à 40 000 habitants : une fois passé ce seuil, un emploi à temps plein est potentiellement mobilisé sur la collecte, le traitement et l'utilisation de la data.

Proposition n° 3 : dans les collectivités ayant la taille critique suffisante, mettre en place un management des données par un administrateur général des données (Chief Data Officer), un réseau de référents data, un Comité data ou une Direction de la donnée.

Délai : 3 ans

Acteur(s) : collectivités territoriales

2. La gouvernance de la data

La gouvernance de la data renvoie aux règles de mise à disposition des données et aux cas d'usage de celles-ci. La mise en place d'une telle gouvernance assure un cadre sécurisant pour toutes les parties prenantes au sujet : les agents de la collectivité territoriale, les élus, ainsi que les partenaires / interlocuteurs publics et privés. En cela, elle représente une étape primordiale dans le processus de diffusion de l'IA, auquel elle offre un cadre de confiance. Selon une approche extensive, cette notion de gouvernance comprend également une dimension éthique, à laquelle vos rapporteures consacreront des développements spécifiques infra (cf. Partie II. E. 2.) eu égard à son importance.

Selon l'Observatoire Data Publica, la formalisation d'une gouvernance de la donnée est en nette progression au sein des collectivités locales. Un peu plus d'un tiers d'entre elles (38 % des répondants) indiquent avoir d'ores et déjà défini des règles en la matière, soit une progression significative de 10 points entre 2022 et 2023. La dynamique est en cours puisqu'un tiers des collectivités ayant participé à la consultation (34 %) annonce son intention de se doter d'un arsenal de règles à un horizon de douze mois. L'Observatoire précise que « les métropoles et les régions (mais aussi les structures territoriales autres que les collectivités) sont les plus avancées, toutes les strates et tailles de collectivités s'intéressent activement à la gouvernance des données ».

Les formes retenues pour matérialiser cette gouvernance varient selon la taille des collectivités concernées et les publics visés. L'étude réalisée par l'Observatoire Data Publica permet d'ailleurs de distinguer les grandes tendances. Lorsqu'elles se saisissent du sujet, les collectivités de taille modeste privilégient une politique de gestion interne des données. Cette politique sert de référence aux agents et aux services en interne, elle permet de lever certains points de blocages (en dissipant des ambiguïtés, en arbitrant entre différentes options, en sécurisant la prise d'initiative...). Dans les collectivités de taille plus conséquente, elle est complétée par une gouvernance des données dans le cadre des relations avec les partenaires extérieurs. Cette gouvernance se signale alors notamment au travers de clauses contractuelles relatives aux données.

Ces clauses contractuelles méritent une attention particulière dans la mesure où elles ont notamment vocation à préserver les collectivités d'un « pillage » de leurs données. Une question se pose en effet inévitablement en matière d'IA : une fois les données rendues accessibles au partenaire / prestataire privé, comment la collectivité peut-elle s'assurer qu'elles ne seront pas détournées de leur usage initial ? Pour lever ce doute, la collectivité a tout intérêt à verrouiller au mieux sa relation contractuelle avec son prestataire.

Parmi les interlocuteurs des collectivités territoriales figure au premier rang l'État. La place de celui-ci est essentielle en matière de production, de circulation, de partage et d'utilisation des données. Par exemple, les administrations d'État contribuent au service public de mise à disposition des données de référence, tel qu'introduit par la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique. À cet égard, dans son rapport^17(*), la mission « Data et territoires » souligne la nécessité de clarifier le rôle et les responsabilités respectives de l'État et des collectivités territoriales. La mission recommande notamment la création de Comités territoriaux de la donnée.

Les Comités territoriaux de la donnée : une instance de coordination au niveau territorial

Dans la conception de la mission « Data et territoires », les Comités territoriaux auraient plusieurs missions.

« Tout d'abord, ils devraient définir des feuilles de route favorisant le partage des données à des fins d'intérêt général. Ces feuilles de route identifieraient les cas d'usages prioritaires ainsi que les jeux de données à ouvrir prioritairement, en lien avec les cas d'usage identifiés.

« Elles auraient aussi pour objectif de répartir les rôles entre les acteurs et contiendraient un volet financier.

« Ces comités assureraient également l'articulation entre les plateformes de mise à disposition des données, voire soutiendraient la création d'espaces communs de données (...).

« Ces comités pourraient être créés à l'échelle régionale, conformément au code général des collectivités territoriales qui dans son article L. 4211-1 prévoit que chaque région a pour mission " la coordination, au moyen d'une plateforme de services numériques qu'elle anime, de l'acquisition et de la mise à jour des données géographiques de référence nécessaires à la description détaillée de son territoire ainsi qu'à l'observation et à l'évaluation de ses politiques territoriales, données dont elle favorise l'accès et la réutilisation ". De plus, c'est au niveau régional que sont bâties de nombreuses stratégies (aménagement, développement durable et égalité des territoires, économie et innovation) et que se dessinent les futures conférences des parties (" COP régionales "). Le niveau régional est donc naturel pour l'animation territoriale de la donnée.

« Toutefois, chacun des usages de données territoriales peut nécessiter de définir un " territoire pertinent " qui peut être aussi bien une intercommunalité s'agissant de thématique de déchets ou du traitement des eaux usées comme de leur réutilisation, un département s'il s'agit d'un usage principalement lié à des questions de politique sociale, qu'un bassin versant s'agissant de l'usage de l'eau ».

Si vos rapporteures sont sensibles à l'impératif de ne pas multiplier à l'excès les instances au niveau territorial, elles estiment toutefois que l'absence de structure dédiée à la coordination délocalisée de la donnée pourrait rapidement nuire à l'efficacité des politiques publiques. Elles voient dans ces Comités territoriaux de la donnée un lieu non seulement de travail, mais aussi de dialogue, propice à lever d'inutiles blocages entre les administrations et les collectivités territoriales. Par ailleurs, ces Comités pourraient favoriser les échanges et les retours d'expérience, facteurs de gains de temps et d'économies potentiellement considérables.

Proposition n° 4 : expérimenter des Comités territoriaux de la donnée pour faciliter le partage de données à des fins d'intérêt général et favoriser les échanges d'expérience.

Délai : 1 an

Acteur(s) : ministère de l'Intérieur (direction du management de l'administration territoriale et de l'encadrement supérieur - DMATES), collectivités territoriales

C. FAIRE ÉMERGER UNE « INGÉNIERIE IA » DANS L'ÉCOSYSTÈME DE NOS COLLECTIVITÉS

1. La montée en puissance de « chefs de file »

Le monde des collectivités territoriales ne reste pas dans une position d'attente face à l'irruption de l'IA. Comme souvent, il prend les devants et l'essor de cette nouvelle technologie, encore timide il y a peu, tend à y prendre de l'ampleur mois après mois. Ce mouvement n'est d'ailleurs pas propre à la France et se constate partout à l'échelle internationale, les métropoles étant généralement en pointe.

Dans le monde, les métropoles en pointe sur l'IA

• Singapour : la cité-État utilise largement l'IA pour la surveillance de la qualité de l'air, l'optimisation des flux de trafic, la gestion de l'eau et de l'énergie... Les solutions à base d'IA y permettent également de prévoir les inondations et de prendre des mesures préventives (génération de fiches conseil, d'alertes...).

• Songdo (Corée du Sud) : l'IA y est utilisée pour la gestion intelligente de l'énergie (afin de surveiller et d'optimiser la consommation d'énergie dans les bâtiments résidentiels et commerciaux), l'optimisation des transports en commun (en vue de réduire les temps d'attente et les congestions), la gestion des déchets (collecte automatisée et contrôlée pour améliorer l'efficacité et la durabilité), ainsi que la surveillance environnementale grâce à des capteurs (surveillance de la qualité de l'air et de l'eau, gestion des espaces verts).

• Londres : dès 2012 à l'occasion des Jeux olympiques, Londres a déployé des solutions d'IA pour améliorer la gestion des déchets. Des capteurs placés dans les poubelles publiques permettaient de surveiller les niveaux de remplissage et l'IA créait des itinéraires optimisés de collecte pour réduire les coûts et les émissions de carbone. Cependant, ces poubelles connectées ont ensuite fait l'objet de polémiques jusqu'à ce que le dispositif soit abandonné, les autorités considérant finalement que les poubelles collectaient trop d'informations.

• New York : la ville utilise des solutions d'IA pour améliorer la sécurité publique et la gestion des ressources. Par exemple, l'IA aide à analyser les données de surveillance pour identifier les activités suspectes et déployer les forces de police plus efficacement grâce à des alertes. D'autres collectivités, par exemple San Francisco, ont toutefois interdit ce type de logiciels d'IA basés sur la reconnaissance faciale.

• Rotterdam : le port de Rotterdam a mis en place des projets d'IA pour la gestion des infrastructures urbaines et l'entretien prédictif. L'IA analyse les données recueillies par des capteurs installés sur les ponts et les routes pour prévoir les besoins de maintenance avant que des problèmes majeurs ne surviennent. La ville déploie également une IA pour fluidifier la circulation.

Source : réponses écrites au questionnaire de vos rapporteures par Fabien Aufrechter, maire de Verneuil-sur-Seine et Vice-président chez Vivendi en charge de l'IA générative et du web3

À l'échelle nationale, il n'existe pas de recensement exhaustif des initiatives prises par les collectivités territoriales, mais on peut d'ores et déjà estimer le nombre de projets engagés à plusieurs centaines, ainsi que l'a indiqué Fabien Aufrechter à vos rapporteures. Pour mesurer la vitesse de propagation de l'IA parmi les collectivités, il est intéressant de rapporter cet ordre de grandeur à celui relevé par l'Observatoire Data publica à l'automne 2022. L'Observatoire n'identifiait alors qu'une quarantaine de projets estampillés IA. Portés par de grandes collectivités, seulement quatre étaient effectivement déployés à cette date-là.

Les collectivités ne partent bien évidemment pas d'un même pied d'égalité dans la course à l'IA. L'effet taille de la collectivité joue un rôle essentiel et permet d'ailleurs de dessiner une cartographie du potentiel de diffusion de l'IA.

Ainsi, sans surprise, les petites communes sont celles qui rencontrent le plus de défis en termes de financement et de compétences techniques, comme l'a observé Jérôme Bernard, Vice-président de l'Association des maires ruraux (AMR) de l'Ardèche et maire d'Alissas. L'adoption de l'IA y est donc encore embryonnaire, souvent limitée à des initiatives isolées ou à des partenariats avec des collectivités plus grandes ou des entreprises privées. Ces petites communes peuvent certes bénéficier d'outils IA dans des domaines comme l'administration publique, mais pour elles l'heure n'est pas encore venue d'une implantation à grande échelle.

Par comparaison, les villes moyennes commencent à adopter plus largement l'IA, souvent dans le cadre de projets pilotes ou grâce à des subventions spécifiques. Elles se concentrent généralement sur des applications pratiques et à faible coût, comme par exemple l'utilisation de chatbots pour améliorer les services aux citoyens.

Mais ce sont bien évidemment les grandes villes qui montrent le degré de maturité le plus élevé. Elles disposent souvent de ressources financières et humaines suffisantes pour investir dans des projets d'IA générative. En outre, elles sont en mesure de collaborer avec des entreprises technologiques et des universités pour développer et intégrer des solutions d'IA dans divers services. Mais à part sur des projets précis, l'adoption de l'IA générative reste encore faible selon Fabien Aufrechter.

Aussi succincte soit-elle, cette cartographie permet au moins d'identifier un risque et de comprendre une nécessité. Le risque réside dans un décrochage entre les petites et les grandes collectivités au regard de l'IA, celle-ci devenant alors un facteur supplémentaire de creusement des inégalités territoriales. Cette crainte a clairement été exprimée par certains des experts auditionnés par vos rapporteures, comme par exemple Céline Colucci, Déléguée générale des Interconnectés.

Face à ce risque, on comprend la nécessité d'imaginer une diffusion de l'IA qui ne soit pas à deux vitesses et qui ne laisse pas certaines collectivités sur le bord du chemin.

Ce dont ont donc besoin les collectivités territoriales, c'est d'une « ingénierie IA » au sein de leur écosystème. L'idée ne fait d'ailleurs que renvoyer plus largement à l'ingénierie qu'elles ont su développer pour faire face aux défis de leur développement et de leur aménagement au cours des décennies précédentes. Cette ingénierie a d'abord beaucoup été portée par l'État, au travers de l'assistance technique fournie par les services de l'État pour des raisons de solidarité et d'aménagement du territoire (ATESAT). Puis, face à l'attrition de l'ATESAT à la fin des années 2010, les collectivités se sont plutôt retournées vers le département, qui avait de son côté développé une expertise. Aujourd'hui, il est vraisemblable que ce modèle puisse utilement servir de source d'inspiration pour répondre aux défis de l'IA.

Dès lors, se pose bien évidemment la question du niveau territorialement pertinent pour le développement de cette nouvelle forme d'ingénierie au service de l'ensemble des collectivités, et notamment des plus petites. Le « bon » niveau à retenir dépend assurément des spécificités de chaque territoire, mais on peut néanmoins définir quelques critères discriminants pour tenter de le cerner. Le premier consiste en la proximité, motif pour lequel le niveau régional ne paraît pas le plus approprié. Le second renvoie à une certaine « masse critique », ainsi que l'a par exemple souligné Michel Sauvade au nom de l'Association des maires de France (AMF) et lui-même maire de Marsac-en-Livradois et vice-président du Conseil départemental du Puy-de-Dôme.

Dans ces conditions, le département et l'intercommunalité peuvent a priori faire figure de candidats dans la recherche du niveau territorialement pertinent. Toutefois, quelques réserves doivent être prises en compte concernant le niveau départemental. En effet, ainsi que l'a fait remarquer, au nom de l'Assemblée des départements de France (ADF), Claude Riboulet, président du Conseil départemental de l'Allier, « les départements ne sont pas encore matures » à l'égard de l'IA car « ils n'ont pas encore de produits sur étagère (...), et ils ont dématérialisé mais pas encore vraiment numérisé leurs documents ».

Le niveau intercommunal semble recueillir davantage d'adhésion. Sa capacité à dégager des « moyens d'investir » a été mise en exergue par Jacques Oberti, alors vice-président « numérique » d'Intercommunalités de France et président de la communauté d'agglomération du Sud-Est Toulousain (Sicoval). Michel Sauvade, pour sa part, a observé que des mutualisations pouvaient s'opérer au niveau des établissements publics de coopération intercommunale (EPCI). Force est d'ailleurs de constater que les intercommunalités se montrent particulièrement pro-actives sur le thème de l'IA. Avec France urbaine, Intercommunalités de France est à l'origine de l'association des Interconnectés, réseau ayant pour mission d'accompagner les collectivités dans leur transformation numérique. Dès 2022, les Interconnectés ont engagé une réflexion sur l'IA, qui a notamment nourri le Forum organisé par cette association à Marseille en avril 2024.

À la diversité des territoires et de leur maillage politico-administratif répond assurément une diversité de solutions pour les collectivités territoriales souhaitant se mettre en ordre de marche face au défi de l'IA. Pour autant, l'émergence de collectivités « chefs de file » représente certainement une orientation stratégique à développer. Gage d'efficacité, cette organisation autour de « chefs de file » permettra la construction d'une expertise, l'atteinte d'une taille critique et le partage de la valeur ajoutée inhérente aux projets d'IA.

Proposition n° 5 : structurer le développement des projets IA autour de collectivités « cheffes de file », capables de construire une expertise et de monter des projets proportionnés aux besoins des territoires.

Délai : 5 ans

Acteur(s) : collectivités territoriales

2. Une co-construction avec les services et autorités de l'État

Les collectivités territoriales seront d'autant plus aptes à bien appréhender la révolution de l'IA qu'elles pourront compter sur des collaborations et qu'elles sauront créer des synergies avec les autres administrations publiques. Dans leur ADN est déjà inscrite l'inclinaison à travailler avec les services de l'État, qu'il s'agisse des services déconcentrés ou des agences notamment. Désormais, le chantier devant les collectivités se situe dans leur capacité à travailler avec les administrations de l'État pour relever ensemble les défis de l'IA.

L'administration d'État s'est saisie de la problématique IA en allant jusqu'à concevoir et produire ses propres outils, en réponse à des besoins identifiés en interne. C'est notamment la mission de la Délégation interministérielle au numérique (DINUM) au travers du DataLab.

ALBERT, l'IA générative au service des administrations publiques

Rattaché au département Etalab au sein de la DINUM, le DataLab est l'incubateur des produits de data sciences de l'État. Sa création par le  comité interministériel de la donnée du 15 décembre 2022 vise à favoriser les échanges d'expertises et l'accompagnement des porteurs de projets dans le domaine de l'analyse de données et de l'innovation numérique. Le DataLab offre une aide matérielle, technique, humaine et juridique pour aider les administrations à dépasser les freins fréquemment rencontrés dans leurs projets de données.

Dans le cadre de cette feuille de route, il mène aujourd'hui l'expérimentation d'une IA générative, dénommée ALBERT. Lancé en juin 2023, ce projet ambitionne de mettre à disposition des services de l'État une gamme de produits à base d'IA et de développer une infrastructure à laquelle raccrocher ces produits. Il tient ainsi compte des impératifs de souveraineté et de protection de la donnée, tout en ayant vocation à couvrir énormément de cas d'usage dans les administrations publiques.

Il est important de souligner que cette IA générative s'adresse aux seuls agents publics, et pas aux usagers. C'est en effet le parti pris retenu à l'origine de ce projet : intervenir en soutien des agents, mais ne pas mettre l'usager directement en relation avec l'IA.

Depuis le mois de janvier 2024, un produit est testé par une soixantaine d'agents volontaires au sein de France Services : « ALBERT France Services ». Le moteur de recherche ALBERT permet ainsi de délivrer une information, fiable et rapide, grâce à une interface dans laquelle le conseiller France Services pose sa question. La réponse apportée est sourcée à partir de la documentation des partenaires de France Services et des fiches pratiques du site servicepublic.fr.

Cette IA ALBERT n'est pas exclusivement réservée aux services de l'État, elle est également accessible aux collectivités territoriales qui le souhaiteraient. Ainsi, lors de son audition par vos rapporteures, Ulrich Tan, Adjoint à la Directrice d'Etalab, Chef du DataLab, a indiqué qu'« ALBERT est ouvert aux collectivités, mais il faut qu'elles aient la compétence ou qu'elles fassent appel à un prestataire ». Le projet ALBERT n'en est encore qu'à la phase de l'expérimentation, mais une fois son déploiement à grande échelle engagé, les collectivités territoriales pourront certainement tirer profit de ses retombées positives.

Par ailleurs, si les collectivités peuvent espérer intégrer un outil comme ALBERT pour répondre à leurs besoins spécifiques, elles ont aussi l'opportunité de s'appuyer sur l'expertise de certaines administrations d'État en vue d'être accompagnées sur le chemin de l'IA. C'est notamment le rôle du CEREMA.

Le CEREMA se positionne aux côtés de l'État et des collectivités territoriales pour la transition écologique, l'adaptation au changement climatique et la cohésion des territoires. Son expertise recouvre six domaines d'activités : Expertise et ingénierie territoriale, Bâtiment, Mobilités, Infrastructures de transport, Environnement et Risques, Mer et Littoral. En matière d'IA, il peut accompagner les collectivités territoriales dans le développement de leurs projets en leur fournissant une infrastructure de données, en organisant des appels à manifestation d'intérêt orientés vers les startups et en développant des solutions innovantes.

Selon son Directeur général, Pascal Berteaud, « les demandes des collectivités sur le sujet de l'IA sont émergentes et le CEREMA se structure pour y répondre. L'IA peut constituer un apport particulièrement significatif dans les domaines des mobilités et de la transition écologique. Par exemple, l'IA peut être utilisée pour analyser les données de déplacement, optimiser les transports en commun, gérer l'énergie, prévoir les catastrophes naturelles ou encore surveiller la qualité de l'air et de l'eau ».

Le CEREMA, pourvoyeur d'une « ingénierie IA » en soutien des collectivités territoriales

Directement rattaché à la direction générale du CEREMA, l'incubateur Fabric'O a vocation à aider les collectivités territoriales à mieux utiliser le numérique et les données dont elles sont propriétaires et / ou assurent la gestion.

Il proposera prochainement une infrastructure de données au service d'un « bac à prototypage ». En d'autres termes, cela signifie qu'il permettra aux collectivités qui le souhaitent de développer une version de démonstration d'une solution IA pour en tester la faisabilité, la pertinence et les fonctionnalités auprès d'utilisateurs.

Par exemple, l'incubateur accompagnera la commune de Noisy-le-Grand dans son expérimentation de l'IA au service de la prospective scolaire, au regard de sa stratégie foncière. De même, il interviendra en soutien de la commune de Metz en vue de l'optimisation de la gestion circulaire des déchets des bâtiments travaux publics (BTP).

Par ailleurs, récemment créée au sein du CEREMA, la mission Accélérema vise l'appui à la construction de produits numériques, en lien avec le réseau des incubateurs beta.gouv.fr de la DINUM. Tirant profit de l'expertise du CEREMA, elle a vocation à soutenir le développement de solutions innovantes en favorisant la collaboration entre les équipes autour de quelques étapes clés : l'idéation, la définition du concept de produit, le prototypage, le design final du produit, les tests avant le lancement du produit.

En lien avec l'Institut national de recherche en sciences et technologies du numérique (INRIA) et l'Institut national de l'information Géographique et forestière (IGN), la mission Accélérema a également vocation à faciliter l'accès à ces nouveaux outils que sont les jumeaux numériques 3D au service des territoires. On parle de jumeau numérique à propos d'une représentation virtuelle de la réalité (notamment des objets physiques, des processus et des relations). Ce type de dispositif a vocation à entrainer de l'IA générative au profil des territoires : gestion de la forêt, des risques climatiques, du recul du trait de côte...

Au total, loin d'être délaissé, le champ de l'IA pourrait être, à plus ou moins brève échéance, saturé d'initiatives émanant des territoires. Comme on l'a vu, ces initiatives peuvent relever d'une collectivité traçant seule son chemin, de regroupements autour d'un chef de file ou encore de partenariats avec des administrations d'État (comme le CEREMA, par exemple). Pour que ce foisonnement ne tourne pas à la déperdition (de temps, d'argent et d'énergie), il paraît judicieux de structurer ce réseau en l'organisant autour de pôles territoriaux d'ingénierie IA.

Dans cette perspective, l'agence nationale de la cohésion des territoires (ANCT) pourrait tenir une place essentielle dans ce réseau : assurer la coordination entre les différents pôles et faciliter l'accès aux ressources comme aux expertises à l'échelle nationale. La complémentarité entre le CEREMA et l'ANCT permettrait une synergie efficace, garantissant que les innovations et les avancées en IA bénéficient à toutes les collectivités, y compris les plus petites ou celles en zones rurales.

Les interactions avec d'autres acteurs tels que les universités, les opérateurs publics de services numériques (OPSN), les entreprises spécialisées en IA et les instituts de recherche technologique, enrichiraient encore davantage ces pôles territoriaux. Ces interactions encourageraient la recherche appliquée et les transferts de technologie au profit des collectivités.

Structurés, collaboratifs et impliquant des acteurs institutionnels clés (CEREMA, ANCT...) ainsi que des partenaires académiques et industriels, ces pôles territoriaux d'ingénierie IA seraient en mesure de jouer un rôle fondamental pour démocratiser l'accès à l'IA parmi les collectivités de notre pays. Ils contribueraient à une modernisation inclusive de l'administration publique locale.

Vos rapporteures ont le souci de ne pas multiplier les instances administratives et comités ad hoc. C'est pourquoi ces pôles territoriaux d'ingénierie IA pourraient constituer l'autre versant des Comités territoriaux de la donnée proposés en partie II. B. 2.

Ainsi seraient expérimentés des Comités territoriaux de la donnée investis d'une double mission : formaliser, coordonner une gouvernance de la data à l'échelle des collectivités et structurer l'ensemble du réseau des acteurs de la politique des données (collectivités, acteurs institutionnels, entreprises...).

Les deux missions des Comités territoriaux de la donnée

Proposition n° 6 : confier aux Comités territoriaux de la donnée la mission d'animer le réseau des acteurs territoriaux de l'ingénierie IA (collectivités territoriales, acteurs institutionnels clés et partenaires privés) en vue de la démocratisation de l'IA parmi les collectivités.

Délai : 1 an

Acteur(s) : Premier ministre, collectivités territoriales

D. PROPORTIONNER LES MOYENS AUX OBJECTIFS

1. La prise en compte du bilan environnemental pour une IA durable

Les collectivités territoriales se doivent d'être exemplaires en matière d'empreinte carbone et de transition écologique. L'impact environnemental de l'IA représente un enjeu important à leur niveau, mais aussi à l'échelle mondiale. En 2019, par exemple, l'université du Massachusetts a calculé que l'entraînement d'une IA équivalait, en CO₂, aux émissions de 205 trajets allers-retours entre Paris et New York en avion^18(*).  En 2023, une étude de l'université américaine du Colorado a calculé que 25 questions posées à ChatGPT équivalaient à dépenser un demi-litre d'eau douce^19(*). À titre comparatif, une question posée à ChatGPT consomme dix fois plus d'énergie qu'une recherche sur un moteur de recherche tel que Google.

Dans leur étude sur l'empreinte environnementale du numérique^20(*), l'Agence de l'environnement et de la maîtrise de l'énergie (ADEME) et l'Autorité de régulation des communications électroniques, des Postes et de la distribution de la presse (ARCEP) estimaient en 2023 à 2,5 % le poids du numérique dans l'empreinte carbone de la France. Cette estimation correspondait à 17,2 millions de tonnes d'équivalent CO2 et 20 millions de tonnes de déchets. « Si l'on ne faisait rien, cette empreinte carbone représenterait 7 % sans même compter l'IA, c'est-à-dire que l'effort de décarbonation que l'on a prévu sur le transport routier compenserait à peine ce que le déploiement de l'usage du numérique va générer. Si l'on ajoute les effets de l'IA, le défi est encore plus grand » relève Amélie Coantic, directrice adjointe du Commissariat général au développement durable (CGDD), lors de son audition par vos rapporteures le 11 décembre 2024.

L'impact environnemental de l'IA est en effet non négligeable.
On songe bien évidemment, en premier lieu, à l'empreinte carbone liée à la consommation énergétique pour « faire tourner les modèles » d'IA. Mais l'incidence sur la ressource en eau est également significative :  la production des puces électroniques (microprocesseurs) consomme de l'eau, tout comme le refroidissement des serveurs hébergés dans les centres de données (data center). En outre, la fabrication des matériels (terminaux, écrans, tablettes, smartphones...), sans lesquels l'IA ne serait pas accessible, puise dans les ressources minérales (silicium, germanium...).

La difficulté extrême pour une collectivité territoriale réside dans sa capacité à évaluer cet impact environnemental, lorsqu'elle souhaitera s'engager dans un projet à base d'IA. Jusqu'à très récemment, il n'existait encore aucun référentiel pour le mesurer. Afin de sortir de l'impasse, le CGDD a pris l'initiative d'élaborer un tel référentiel mettant à disposition le premier cadre de référence opérationnel sur l'IA dite « frugale », c'est-à-dire sobrement consommatrice de ressources (énergie, eau, matières premières). Lancée en janvier 2024 dans le cadre de la feuille de route « IA et transition écologique », cette initiative a été conduite par le laboratoire Ecolab du CGDD. Elle a débouché, en juin 2024, sur la publication d'un « Référentiel général pour l'IA » sous l'égide de l'Association française de normalisation (AFNOR).

Ce référentiel constitue un point d'appui à la responsabilité sociale et environnementale des utilisateurs de l'IA, parmi lesquels les collectivités. Il a le mérite de fournir une définition précise des termes et des notions scientifiques, une méthodologie d'évaluation et des fiches de bonnes pratiques.

Parmi ces bonnes pratiques, un point particulier d'attention porte sur la juste définition du besoin à satisfaire avant même d'envisager d'avoir recours à l'IA. Ce besoin existe-t-il réellement ? Aucune solution existante ne peut-elle y apporter déjà une réponse ? L'IA représente-t-elle un passage obligé, ou d'autres voies peuvent-elles être envisagées pour satisfaire le besoin identifié ? En d'autres termes, « l'analyse du besoin doit passer par l'identification de toutes les solutions possibles répondant au besoin, que ce soit les solutions à base d'IA, mais aussi celles plus classiques sans IA ou à base d'IA frugale ou encore celles s'appuyant sur l'existant (en termes de service ou d'infrastucture...) ».

Pour évaluer l'impact environnemental d'un projet IA, une difficulté majeure consiste à prendre en compte l'ensemble du cycle de vie du projet. Souvent, le travers tend à concentrer l'effort d'évaluation sur un unique facteur : l'entraînement de l'IA. Or, si celui-ci est effectivement consommateur en ressources énergétiques, il ne résume pas à lui seul l'impact environnemental d'un système d'IA. En amont, la fabrication des terminaux et des réseaux présente, elle aussi, un coût environnemental. En aval, les mises à niveau ultérieures de l'IA doivent également être prises en considération, tout comme le fonctionnement des serveurs tout au long de la vie du projet.

Pour aider les collectivités à prendre en compte l'impact environnemental de leurs projets IA, vos rapporteures considèrent qu'il serait opportun que les entreprises fournisseuses des collectivités intègrent une évaluation de l'impact environnemental de leur solution IA. Ainsi, les décideurs locaux pourraient-ils recourir à l'IA en sortant du flou concernant son impact environnemental. Lors de son audition le 10 décembre 2024, Franckie Trichet, vice-président de la Métropole de Nantes, chargé de l'Innovation et du numérique, a indiqué que la métropole s'applique à questionner ses fournisseurs / prestataires dans ce sens. Il a relevé avec satisfaction que les entreprises perçoivent positivement cette exigence et tentent de s'y plier aussi bien que possible.

Proposition n° 7 : dans l'attribution d'un marché public portant sur un outil IA, prendre en compte le bilan environnemental de cette IA.

Délai : 3 ans

Acteur(s) : Ministère de la Transition écologique et de la Cohésion des territoires (Ecolab), collectivités territoriales

Enfin, l'intérêt du référentiel AFNOR consiste à souligner l'importance centrale de la data. En effet, « la consommation de ressources pour entraîner une IA est fonction de la quantité de données qu'elle reçoit pour son entraînement ». Or, des data de bonne qualité permettent de réduire le volume d'entraînement nécessaire, et donc les ressources consommées par cet exercice.

S'assurer de disposer de data de bonne qualité et réduire le volume d'entraînement nécessaire sont autant d'objectifs pouvant être poursuivis par une mutualisation des moyens. Cette mutualisation (de la gestion, du traitement et de la formalisation des données) est assez unanimement souhaitée, ainsi qu'il est ressorti de l'audition par vos rapporteures des associations représentatives des collectivités et de leurs élus le 15 mai 2024. Cette mutualisation est également encouragée par l'Ecolab, qui voit dans l'émergence des Comités territoriaux de la donnée (cf. Partie II.B.2.) l'opportunité de faire vivre l'espace de discussion indispensable à cette mutualisation, comme l'a indiqué Thomas Cottinet, directeur de l'Ecolab, lors de son audition par vos rapporteures le 11 décembre 2024.

Dans cette perspective, vos rapporteures souhaitent insister sur la nécessité de laisser à la main des collectivités l'animation des processus de mutualisation. Les Comités territoriaux de la donnée doivent être pilotés par les collectivités, l'État n'intervenant qu'en tant qu'« acteur ressource » en fournissant des informations et des référentiels (comme par exemple, le « Référentiel général pour l'IA »).

Sans empiéter sur l'autonomie d'action des collectivités, l'État peut également se positionner en tant qu'« ensemblier » pour encourager d'autres collectivités à s'inspirer de projets IA déjà initiés, et ainsi les inciter à « prendre le train de l'IA ». Cette position « d'ensemblier » pourrait alors passer par l'élaboration d'une bibliothèque nationale des projets IA développés par les collectivités.

Créée par l'État, cette « bibliothèque nationale des projets IA développés par les collectivités » correspondrait à une plateforme en ligne sur laquelle les collectivités pourraient saisir leur projet IA et / ou découvrir les projets IA développés par leurs homologues. La saisie de projets IA consisterait à renseigner quelques informations-clefs : la situation de la collectivité, le besoin auquel le projet doit répondre ou encore le coût de ce projet.

En outre, cette plateforme intègrerait une partie « impact environnemental de l'IA » permettant aux collectivités de mieux appréhender les enjeux environnementaux inhérents aux projets IA. Cette partie serait alimentée, notamment, par l'évaluation environnementale du projet IA fournie par l'entreprise au moment de la signature du contrat entre la collectivité et l'entreprise retenue (cf. supra).

Les projets saisis sur la plateforme par les collectivités fonctionneraient alors comme un partage d'expérience entre pairs permettant aux collectivités de disposer de points de comparaison.

Les vertus d'une bibliothèque nationale des projets IA

Proposition n° 8 : créer une « bibliothèque nationale des projets IA développés par les collectivités » sous la forme d'une plateforme numérique. Les informations partagées dans cette bibliothèque porteraient par exemple sur l'impact environnemental du projet considéré.

Délai : 3 ans

Acteur(s) : Ministère de la Transition écologique et de la Cohésion des territoires (Ecolab), collectivités territoriales

2. Le calibrage de l'investissement

L'irruption de l'IA dans l'univers des collectivités territoriales entraîne des bouleversements considérables dans l'approche des politiques publiques au niveau local. Dès lors, la tentation peut être forte de céder à des phénomènes de mode, ou de suivre le mouvement par simple mimétisme. La pression se fait d'ailleurs sentir de façon croissante sur les élus locaux, de plus en plus ciblés par les acteurs du marché. Les démarchages se multiplient et les opérations de communication marketing se perfectionnent : sondages toujours plus nombreux pour connaître le degré de sensibilisation des décideurs dans les collectivités, création d'observatoires et autres instances facilitant l'accès à ces mêmes décideurs... Cette effervescence peut contribuer à brouiller les esprits et faire perdre de vue l'essentiel dans la décision de s'engager dans un projet IA.

En effet, l'IA a un coût, ou plutôt même des coûts. C'est bien évidemment un investissement financier pour la collectivité, mais c'est aussi un investissement en ressources humaines et un élément à prendre en compte dans le bilan carbone d'une collectivité. À bien des égards, cette nouvelle technologie peut se comparer à la révolution du passage à l'informatique dans les années 1970-1980. Les enseignements tirés de cette révolution peuvent utilement éclairer les enjeux de la transition vers l'IA aujourd'hui.

Un bilan coûts / avantages représente un préalable dans la prise de décision d'investir, ou pas, dans un outil à base d'IA. Pour le dresser, quelques questions de bon sens sont utiles : quel est le besoin précis de la collectivité ? Ce besoin peut-il être satisfait autrement qu'en s'engageant dans l'IA ? Un système d'information (SI) plus classique, robuste et agile, n'est-il pas suffisant ? Le coût financier de l'investissement dans une IA est-il proportionné aux objectifs fixés ? Au fond, ce qu'il convient d'interroger, c'est la réelle utilité du recours à l'IA, au-delà des effets de mode du moment.

Le sujet de la proportionnalité de l'investissement par rapport aux résultats à atteindre mérite une attention particulière. Comme on l'a vu, le volume d'investissement varie selon la taille des données traitées et la sophistication du produit envisagé. Selon les cas, la dépense peut s'élever à quelques milliers d'euros, mais l'addition est aussi susceptible de s'alourdir pour atteindre plusieurs dizaines de milliers d'euros (voire davantage). À cet égard, les décideurs dans les collectivités doivent garder à l'esprit que le coût d'investissement initial se double ensuite d'un coût de fonctionnement annuel. Il s'agit en effet de nourrir et d'entretenir la base de données indispensable à l'IA (mise à jour), ainsi que d'assurer les mises à niveau de l'outil en fonction de l'évolution de la technologie (au risque sinon de travailler avec un outil rapidement devenu obsolète). Le recours à l'IA engage donc les finances de la collectivité sur plusieurs années, ce qui rend nécessaire une évaluation pluriannuelle du coût de cet investissement.

Cette capacité à s'extraire du court terme et à se projeter dans le moyen et long terme sera d'autant plus précieuse qu'elle permet de saisir un autre enjeu autour des produits à base d'IA : la collectivité doit pouvoir s'assurer de la pérennité de l'entreprise avec laquelle elle passe le contrat. Loin d'être accessoire, cette question est au contraire centrale. Le marché de l'IA est un marché émergeant, à très forte croissance, mais qui comporte des risques importants et sur lequel tous les nouveaux entrants ne parviendront pas à survivre économiquement. Si l'on peut raisonnablement penser que les Gafam^21(*) continueront à tenir durablement le haut du pavé, qu'en est-il de certaines start ups à la surface financière réduite ? Or, pour la collectivité, la disparition de son cocontractant peut signifier l'incapacité à procéder aux mises à jour et aux mises à niveau indispensables au bon fonctionnement de l'IA. Si le choix du prestataire comporte toujours un risque, celui-ci peut toutefois être réduit en attachant une attention spéciale, dans le cadre de l'appel d'offres, à l'analyse de la recevabilité économique de l'offre. En d'autres termes, en tant que pouvoir adjudicateur, la collectivité devra faire preuve d'une extrême vigilance quant à la solidité économique de l'entreprise candidate. Cette précaution visera à éviter la déconvenue d'une entreprise défaillante en cours de contrat, ou du moins à en limiter le risque.

Une autre manière de circonscrire ce risque consiste à ne pas laisser la collectivité en première ligne dans l'appel d'offres et à confier cette responsabilité à un tiers de confiance. C'est précisément l'intérêt d'une centrale d'achat telle que l'Union des groupements d'achats publics (UGAP). Cette centrale commence à développer une ligne de produits à base d'IA à destination de toutes les administrations publiques, y compris les collectivités territoriales. Par exemple, elle distribue des modèles IA conçus par la société Mistral AI. L'UGAP met ainsi son expertise dans le montage des appels d'offres et la sélection des produits au service des entités publiques. Cette médiation et cet accompagnement peuvent se révéler particulièrement utiles pour les plus petites collectivités territoriales, qui ne disposent pas des compétences juridiques et techniques pour monter un cahier des charges pertinent puis conduire la procédure de sélection des candidats.

Pour les collectivités préférant garder une autonomie totale dans le choix du prestataire, le « Guide Intelligence artificielle et collectivités », publié par la Banque des Territoires^22(*), offre une grille d'analyse dont il ressort notamment ces quelques conseils judicieux :

« Investissements : un grand nombre d'acteurs privés propose aujourd'hui des solutions " sur étagère ". Toutes ne sont pas forcément adaptées aux métiers de la collectivité et les solutions sur mesure requièrent souvent un investissement parfois conséquent.

« Il est important également de se tourner vers des écosystèmes d'innovation afin de dépasser les investissements informatiques traditionnels.

« (...)

« Rien ne sert non plus de commencer trop grand. Si de grandes quantités de données peuvent être nécessaires pour certaines applications, il est tout à fait possible de tirer avantage de l'IA en construisant des systèmes fonctionnant avec de petites quantités de données ;

« Il n'est pas nécessaire non plus de partir sur des projets requérant une Intelligence Artificielle de pointe. Les algorithmes aujourd'hui développés, même s'ils ne sont pas parfaits, peuvent tout à fait proposer des solutions rapidement exploitables ».

E. SÉCURISER LE RECOURS À L'IA

1. IA, données sensibles et responsabilité juridique des exécutifs locaux

Pour les élus locaux et les agents publics, le recours à l'IA n'est pas sans susciter des interrogations compréhensibles et des craintes légitimes au regard des implications en droit résultant de cette technologie. En effet, dans la mesure où l'IA se trouve à l'origine d'un nouvel écosystème avec ses acteurs et ses règles propres, elle ouvre le champ de la réflexion sur de nouvelles problématiques. En particulier, du point de vue de l'engagement de la responsabilité juridique, l'IA pose des questions inédites.

En droit interne, le régime de responsabilité exige de démontrer l'existence d'une faute, d'un préjudice et d'identifier le lien de causalité entre les deux, ou de démontrer le préjudice et le lien de causalité entre le fait générateur et le préjudice. Or, avec l'IA, c'est bien « l'identification du fait générateur du dommage et du responsable correspondant et la caractérisation du lien de causalité » qui sont rendues plus complexes, ainsi que le souligne le Conseil d'État dans son étude « Intelligence artificielle et action publique : construire la confiance, servir la performance »^23(*). En quelque sorte, le régime en vigueur revient à exiger d'une victime la preuve de la faute de l'humain derrière le dommage causé par l'utilisation d'un système IA.

À cette difficulté majeure, le Conseil d'État ajoute que divers types de dysfonctionnements de l'IA peuvent complexifier encore la recherche de la responsabilité juridique :

« - un défaut de conception ou de développement imputable au fournisseur (ex : un jeu de données d'entraînement ou de validation inadapté, un mauvais choix d'algorithme, un défaut de programmation...) ;

- un défaut d'utilisation (ex : l'utilisation d'un système IA dans un environnement pour lequel il n'a pas été conçu, l'absence de ré-apprentissage pourtant prescrit par le producteur ou un ré-apprentissage vicié, la poursuite de l'utilisation du système en dépit des défaillances constatées...) ;

- l'intervention malveillante d'un tiers (ex : cyber-attaques...). »

IA et régime de responsabilité : des clarifications attendues

Dans l'univers des collectivités territoriales, trois catégories d'acteurs peuvent voir leur responsabilité engagée dans le cadre du recours à l'IA : les collectivités en tant que personnes morales, les élus et les agents publics.

La collectivité territoriale peut voir sa responsabilité engagée si, dans le cadre du recours à l'IA, la collectivité a manqué à ses obligations. Par exemple, si la collectivité utilise un système IA pour optimiser le fonctionnement de ses services d'inhumation et que ce système est victime d'une cyber-attaque. Alors l'interruption (ou l'altération) du service public funéraire peut conduire la famille connaissant ce préjudice à rechercher la responsabilité administrative de la collectivité sur le terrain de la faute (défaut de protection contre le cyber-risque).

Mais la collectivité peut également voir sa responsabilité engagée pour « faute de service » commise par l'un de ses agents. En effet, lorsqu'un agent commet une faute dans l'exercice de ses fonctions pendant le service, avec les moyens du service et en-dehors de tout intérêt personnel, c'est la responsabilité de la collectivité qui est engagée. Le lien entre la faute de service et le mauvais usage de l'IA reste toutefois à explorer et à préciser, tant il n'apparaît pas immédiatement évident.

De leur côté, les élus et les agents publics peuvent voir leur responsabilité engagée pour « faute personnelle » (imprudence, négligence, malveillance). La faute personnelle est soit une faute totalement détachable de l'activité du service de l'élu ou de l'agent, soit une faute non dépourvue de lien avec le service, soit une faute en lien avec le service mais qui témoigne d'une particulière et exceptionnelle gravité. Toutefois, là encore, le régime de responsabilité demande à être précisé par la jurisprudence dans les nombreux cas d'utilisation de l'IA.

Ces zones d'ombre incitent d'autant plus à réfléchir aux précautions susceptibles d'être prises par les collectivités, leurs élus et leurs agents afin d'éviter de voir leur responsabilité engagée dans le cadre d'une utilisation de l'IA.

La Commission nationale de l'informatique et des libertés (CNIL) identifie deux niveaux de précaution : « pour le développement d'un système d'IA, il convient de combiner une analyse de sécurité " classique " portant notamment sur la sécurité de l'environnement et la sécurité du développement logiciel et de sa maintenance, avec une analyse des risques spécifiques aux systèmes d'IA ». Lors de son audition par vos rapporteures, la CNIL a d'ailleurs tenu à rappeler son rôle de conseil et d'accompagnement dans le déploiement de systèmes numériques et d'IA. Ainsi, en 2023, la Commission a traité 214 demandes de conseil en provenance de collectivités territoriales.

Au-delà de cette grille de lecture très générale, il est aussi nécessaire que rassurant de rappeler, comme l'a fait l'avocat et consultant en transformation des territoires et des organisations publiques, Nathanaël Duffit-Ménard, lors de son audition par vos rapporteures le 30 octobre 2024, que « l'IA entre dans le champ du droit public numérique ». Or, face aux risques du numérique, les acteurs locaux sont loin d'être démunis.

Une première précaution consiste à assurer la protection des données personnelles. Pour ce faire, les décideurs locaux peuvent s'appuyer sur le règlement général sur la protection des données (RGPD). Maître Nathanaël Duffit-Ménard souligne que « le RGPD a un avantage indéniable car il s'est déjà implanté, notamment en imposant aux collectivités la désignation d'un délégué à la protection des données » ou encore en exigeant l'élaboration de certains documents (registre des traitements, analyse d'impact...). L'implantation du RGPD est telle que, selon l'avocat, « aujourd'hui, c'est automatique, quand on implante un système d'IA, on met la couche RGPD ». Au surplus, le RGPD permet une appréhension des cyber-risques puisque « l'article 32 du RGPD oblige à mettre en place des garanties contre les cyber-risques ». Surtout, le RGPD a déjà permis une sensibilisation globale - sans être totale - aux enjeux que représente la protection des données. Or, dans le cadre du développement et du recours à l'IA, une « culture de la protection des données » constitue un enjeu majeur.

La seconde précaution que peuvent prendre les collectivités, leurs élus et leurs agents consiste à sécuriser plus spécifiquement l'ensemble des services ayant recours à des systèmes d'IA. En la matière, les collectivités peuvent s'appuyer sur le référentiel général de sécurité (RGS) édicté par le décret n° 2010-112 du 2 février 2010. Bien qu'il ne porte pas spécifiquement sur l'IA, ce référentiel a pour objectif de renforcer la confiance des usagers dans les téléservices mis à disposition par les collectivités. Il fixe un ensemble de règles de sécurité applicable aux collectivités, mais aussi à leurs prestataires, dans le cadre de la démarche de sécurisation de leurs systèmes d'information. En définissant des exigences de sécurité pour tous les téléservices ainsi que pour les prestataires des collectivités, ce référentiel constitue un repère approprié à « l'écosystème de l'IA ». Il met à disposition un levier dont les collectivités peuvent user pour encadrer le développement et le recours à l'IA au sein de leurs services, dans le respect des missions de service public. Dans un registre complémentaire de celui évoqué supra pour la CNIL, l'Agence nationale de la sécurité des systèmes d'information (ANSSI) peut d'ailleurs intervenir en conseil et en accompagnement des collectivités en vue de cet objectif de sécurisation.

Enfin, les collectivités et leurs décideurs peuvent s'appuyer sur les recommandations prévues par le Règlement européen sur l'IA (RIA ou AI Act).

Le Règlement européen sur l'IA (AI Act) :
quels apports pour la sécurisation des dispositifs d'IA au sein des collectivités territoriales ?

Adopté le 13 juin 2024, l'AI Act est entré en vigueur au 1^er août 2024. Ce texte vise à établir des systèmes d'IA « sûrs, transparents, traçables, non-discriminatoires et respectueux de l'environnement ».

Pour ce faire, ce règlement développe une « approche par les risques » en catégorisant les usages de l'IA selon leur niveau de risque : à chaque niveau de risque est associé un certain nombre d'obligations afin de sécuriser les systèmes IA.

Source : Présentation du règlement IA (CNIL)

En cohérence avec d'autres textes tels que la Charte des droits et libertés fondamentaux ou encore le RGPD, l'AI Act s'applique y compris aux collectivités.

Ainsi, celles qui mettent en place un système d'IA « à haut risque » doivent-elles prévoir un « système de gestion des risques », « assurer une gouvernance des données » et renseigner les autorités afin qu'elles puissent procéder à l'évaluation de la conformité de leurs systèmes d'IA « à haut risque ». De plus, lorsqu'elles sont fournisseuses de systèmes IA, les collectivités seront tenues de mettre en place une surveillance humaine et un « système de gestion de la qualité du système ». Tout dysfonctionnement doit être notifié aux autorités compétentes (encore non désignées en France).

En résumé, si le règlement sur l'IA impose certaines obligations pour assurer la sécurité des systèmes IA « à haut risque », il offre des clefs aux collectivités pour sécuriser leurs systèmes IA en déployant une gouvernance spécifique aux enjeux inhérents à l'IA.

L'AI Act revêt une importance toute particulière en ce qu'il illustre un changement de paradigme. Pour prendre la mesure de ce basculement, il faut bien comprendre que l'IA précipite la rencontre du droit français et du droit de la conformité. Le RIA, comme avant lui le RGPD ou NIS 2^24(*) (cf. infra Partie E. 2. c), oblige les acteurs publics à « se mettre en conformité ». Or, ainsi que le souligne Maître Nathanaël Duffit-Ménard, « l'idée de se mettre en conformité est nouvelle en France ».

Ce changement de paradigme emporte une conséquence importante : dans cette expression toute neuve du droit, il n'y a pas de place pour l'interprétation, à la différence de la pratique habituelle en droit public français. Le droit de la conformité oblige les acteurs publics à appliquer un processus. Maître Nathanaël Duffit-Ménard insiste donc sur le fait qu'« il ne s'agira plus seulement de signer un contrat avec un sous-traitant, il faudra s'assurer que celui-ci est aussi en conformité ».

Cette approche par la conformité est d'autant plus intéressante qu'elle peut offrir une porte de sortie du dilemme juridique concernant la responsabilité administrative, civile et /ou pénale, discuté supra. Le respect de l'obligation de conformité est alors susceptible de devenir le critère pour juger de l'engagement de la responsabilité d'une collectivité, de son exécutif ou de ses agents.

L'arrivée du droit de la conformité (ou compliance) dans le droit français renforce l'enjeu décisif de la formation des élus et agents publics. Effectivement, selon Maître Nathanaël Duffit-Ménard, « il faut se former pour se conformer ». Afin de sécuriser le recours à l'IA, il convient de bâtir un véritable « parcours de la donnée » visant à s'assurer que, de bout en bout, la chaîne des acteurs prenant part au développement de l'IA se conforme aux exigences de sécurité. Pour ce faire, là encore, l'avocat rappelle que les élus peuvent s'appuyer sur le droit public numérique dont l'IA est une branche. Les modes de raisonnement et les démarches de précaution déjà en vigueur dans le cadre du numérique doivent être repris et encouragés au travers de modules de sensibilisation et de formation.

Proposition n° 9 : sensibiliser et former les élus locaux et les cadres administratifs des collectivités au droit de la conformité, car dans le cadre d'un projet IA « il ne s'agit plus seulement de signer un contrat avec un sous-traitant, il faut s'assurer que celui-ci est aussi en conformité ».

Délai : 3 ans

Acteur(s) : Associations d'élus locaux, CNFPT, CDG

2. Une mise en oeuvre de l'IA conforme aux standards nationaux et européens de sécurité

a) Le risque de cyberattaque

Les craintes autour de l'IA ne sont pas uniquement liées à l'outil technologique en tant que tel. Elles s'étendent à son écosystème numérique, souvent associé aux cyber-risques et aux cyberattaques. La donnée représente en effet un marché de plus en plus lucratif, elle s'achète et se revend y compris lorsqu'elle a été préalablement dérobée.

Le cyber-risque encouru en cas d'utilisation de l'IA constitue un frein dans l'esprit de nombre d'élus locaux. Derrière cette inquiétude se pose la question essentielle de la sécurisation des données personnelles transmises par la population, ainsi que des données de la collectivité. Cet enjeu est d'autant plus crucial que les cyberattaques peuvent aller jusqu'à fragiliser la continuité même du service public.

Les craintes exprimées par les élus ne relèvent pas du pur fantasme, mais sont au contraire parfaitement (et malheureusement) fondées. Les collectivités territoriales n'échappent pas à l'accroissement des nouveaux risques inhérents au développement du numérique et de la technologie. Il faut même constater que ces risques s'intensifient.

De janvier à décembre 2024, l'ANSSI déclare avoir traité « 219 incidents cyber affectant les collectivités territoriales, soit une moyenne de 18 incidents par mois et 14 % de l'ensemble des incidents traités par l'ANSSI sur la période »^25(*).

La ventilation des cyber-incidents (janvier 2024 - décembre 2024)

Source : « Collectivités territoriales - synthèse de la menace » (ANSSI, février 2025)

L'ANSSI relève que « les collectivités territoriales sont en effet des cibles de choix pour ces acteurs [de l'écosystème criminel] » pour deux séries de
raisons :

- d'une part, elles sont « souvent peu ou mal sécurisées, gestionnaires de systèmes d'information nombreux et disparates », « elles peuvent éprouver des difficultés à maîtriser la cartographie de leurs réseaux et à les garder dans de bonnes conditions de sécurité » ;

- d'autre part, « les données administratives, financières et personnelles des administrés détenues au sein des collectivités sont nombreuses et présentent un intérêt pour les attaquants ».

De plus, à rebours de certaines idées reçues, la « Troisième étude du baromètre de la maturité Cyber des Collectivités françaises », publiée le 25 octobre 2024 par Cybermalveillance.gouv.fr^26(*), précise que les plus petites collectivités constituent tout autant des « cibles de choix » que les plus grandes collectivités.

Portant sur les communes de moins de 25 000 habitants, cette étude met en évidence qu'une collectivité de plus de 1 000 habitants sur dix déclare avoir déjà été victime d'une ou plusieurs cyberattaques entre octobre 2023 et octobre 2024.

De la perception du cyber-risque par les collectivités territoriales

à sa matérialisation

Source : « Troisième étude du baromètre de la maturité Cyber des Collectivités françaises »

Malgré l'accroissement et l'expansion des cyber-risques, la prise de conscience de ces phénomènes par les élus est encore sporadique et insuffisante, comme le soulignaient Françoise Gatel et Serge Babary, alors respectivement présidente de votre délégation et président de la délégation sénatoriale aux entreprises, dans leur rapport d'information « La cybersécurité au sein des collectivités territoriales »^27(*).

Alors que toutes les collectivités sont concernées - en témoignent les chiffres précédemment mentionnés -, la cybersécurité était encore « loin d'être une préoccupation centrale des collectivités territoriales en 2018 » relevaient Françoise Gatel et Serge Babary. Les rapporteurs imputaient cette insuffisante prise de conscience des cyber-risques de la part des élus à une « faute de temps mais également de compétences et de ressources humaines qualifiées ». Ce constat reste encore, malheureusement, largement d'actualité.

Au terme de leurs travaux, les rapporteurs concluaient néanmoins à quelques avancées, majoritairement du fait des associations d'élus locaux. Ainsi, par exemple, l'AMF a édité un guide « Cybersécurité : toutes le communes et les intercommunalités sont concernées », en novembre 2020, contribuant à la nécessaire prise de conscience collective.

b) Le déploiement d'un arsenal national de cyber-protection

Si la prise de conscience progresse, le dispositif de cyber-protection se perfectionne, notamment sous l'égide de l'ANSSI.

Lors de la réunion hors-les-murs organisée par votre délégation le 15 février 2024 à Sceaux, le Chef de la division Coordination territoriale de l'ANSSI, le Général François Degez, témoignait du rôle grandissant de l'agence dans la cyber-protection des collectivités : « l'ANSSI s'est déployée progressivement dans les territoires pour un accompagnement allant au-delà de ses bénéficiaires traditionnels ».

Pour ce faire, l'ANSSI a pu bénéficier de moyens accrus : « malgré la crise sanitaire, l'ANSSI a bénéficié d'un plan de relance doté d'un budget de 176 millions d'euros, dont plus de 100 millions d'euros ont été exclusivement dédiés aux collectivités ; 715 collectivités ont ainsi pu bénéficier d'un parcours de cybersécurité comprenant tout d'abord un audit payé intégralement par l'ANSSI à hauteur de 40 000 euros, avec un état des lieux complet et un plan d'action, puis un financement des principales actions à mener à hauteur de 50 000 euros. Cela a permis aux collectivités de lancer un plan d'action et un plan d'amélioration continue en matière de cybersécurité. »

Cette augmentation des moyens financiers de l'ANSSI a été conjuguée avec une meilleure mutualisation des services déjà offerts par d'autres organismes aux collectivités, notamment les opérateurs publics de services numériques (OPSN).

L'ANSSI a également déployé de nouveaux outils dont peuvent directement se saisir les collectivités, comme l'indique le Général François Degez : « nous développons par ailleurs d'autres outils : nous avons notamment mis en place depuis deux ans " MonServiceSécurisé ", une plateforme qui permet de dérouler un processus simplifié d'homologation. Pour rappel, le règlement général de sécurité datant de 2018 impose à toute administration, dès lors qu'elle échange de manière numérique soit avec les citoyens, soit avec une autre administration, d'homologuer ses services d'échanges au regard des règles de sécurité. Nous avons par ailleurs des services automatisés, dont le service active directory service (ADS). Enfin, nous avons un outil intitulé " MonAideCyber " qui est particulièrement adapté aux petites collectivités. Il s'agit d'un soutien à la mise en place d'un mécanisme d'audit assisté avec des propositions immédiates d'information ».

Ainsi, le développement d'une prise de conscience par les élus locaux des cyber-risques est-il encouragé par des mesures nationales, via l'ANSSI ou les associations d'élus.

c) L'encadrement communautaire : la directive NIS 2 

Cette prise de conscience est également accompagnée par un renforcement des outils de cyber-sécurisation à l'échelle communautaire. En vigueur depuis le 7 juin 2019, le règlement européen Cybersecurity Act (UE 2019/881) offre un cadre de certification de cybersécurité visant à harmoniser, à l'échelle européenne, les méthodes d'évaluation et les différents niveaux d'assurance de la certification. L'Agence de l'Union européenne pour la cybersécurité (ENISA) en est la cheville ouvrière et cette agence travaille en concertation avec l'ANSSI. En outre, une étape décisive a été franchie avec la directive NIS 2 adoptée par le Parlement européen et le Conseil de l'Union européenne le 14 décembre 2022.

La transposition de la directive NIS 2 :
quelles conséquences pour les collectivités territoriales ?

Le périmètre d'application des obligations liées à la lutte contre les cyber-risques

La directive dite NIS 2 vise à renforcer le niveau commun de cybersécurité en s'appliquant notamment aux collectivités territoriales.

Concrètement, des mesures devront être mises en place par « certaines entités qualifiées comme essentielles ou importantes, en raison des services qu'elles fournissent et de leur taille ».

La directive NIS 2 n'a pas encore été transposée en droit français, mais elle a fait l'objet d'un projet de loi déposé le 15 octobre 2024¹.

Ce projet de loi propose de retenir le seuil de 30 000 habitants pour la définition des entités « essentielles », ce seuil étant toutefois susceptible d'évoluer au cours de la procédure législative.

L'article 8 du projet de loi inclut dans les entités essentielles « les régions,
les départements, les communes d'une population supérieure à 30 000 habitants,
leurs établissements publics administratifs dont les activités s'inscrivent dans un des secteurs d'activité hautement critiques ou critiques » ainsi que « les communautés urbaines, les communautés d'agglomération et les métropoles, leurs établissements publics administratifs dont les activités s'inscrivent dans un des secteurs d'activité hautement critiques ou critiques ».

L'article 9 du projet de loi définit comme des entités importantes « les communautés de communes et leurs établissements publics administratifs dont les activités s'inscrivent dans un des secteurs d'activité hautement critiques ou critiques ».

Dans son projet d'étude d'impact, l'ANSSI estimait que 1 489 collectivités territoriales devraient être concernées au titre des entités essentielles et 992 communautés de communes au titre des entités importantes.

Les mesures à mettre en oeuvre

Les mesures à mettre en oeuvre par les entités « essentielles » et « importantes » sont de trois ordres : le partage et la mise à jour d'informations à l'ANSSI, la gestion des cyber-risques et la mise en place de mesures adaptées, ainsi que la déclaration d'incidents. Des actions de supervision seront assurées pour vérifier le respect de ces obligations.

L'article 37 du projet de loi exclut les collectivités territoriales du champ des entités pouvant être sanctionnées pour non-respect desdites obligations. Saisi pour avis, le Conseil d'État² a estimé que cette exemption « ne peut être admise » en l'absence de dispositif d'effet équivalent pour les collectivités territoriales et leurs groupements et établissements.

¹ Projet de loi n° 33 (2024-2025) relatif à la résilience des infrastructures critiques et au renforcement de la cybersécurité, , déposé au Sénat le 15 octobre 2024. 

²Avis Conseil d'État, Assemblée générale, séance du 6 juin 2024, n° 408320, sur le projet de loi relatif à la résilience des infrastructures critiques et au renforcement de la cybersécurité.

La transposition à venir de cette directive « NIS 2 » n'est pas sans poser problème aux collectivités territoriales. En effet, si cette directive permet une prise de conscience à plus large échelle des cyber-risques encourus, la mise en oeuvre des mesures de lutte contre ces risques se révèle difficile d'application pour les collectivités.

Les difficultés sont d'ordre économique, mais aussi technique. La mise en oeuvre génère un coût budgétaire et exige un certain niveau de compétences, dont les collectivités sont parfois dépourvues.

Face à ce constat, plusieurs propositions ont été formulées par divers acteurs et structures. Le 21 mai 2024, la Commission supérieure du numérique et des postes (CSNP) a publié un avis^28(*) par lequel les auteurs rappellent la nécessité d'adapter les exigences formulées aux collectivités territoriales. L'avis est ainsi assorti de quatorze recommandations visant à faire émerger un dispositif efficient de cybersécurité au profit des collectivités territoriales.

En particulier, l'avis de la CSNP recommande de développer un véritable accompagnement des collectivités territoriales dans la mise en oeuvre de ces nouvelles obligations (recommandation n° 9) ou encore l'élaboration d'un échelonnement des obligations (recommandation n° 4).

Les associations d'élus vont également dans ce sens et demandent la réalisation d'une étude d'impact plus précise pour qualifier les risques, menaces et coûts des cyberattaques.

Toutefois, une question demeure à ce stade en suspens : le délai de mise en conformité dont disposent les collectivités concernées. En effet, la directive et le projet de loi de transposition ne fixent aucun délai. La CSNP et le directeur général de l'ANSSI recommandent un délai de trois ans, tandis que les associations d'élus plaident pour un délai de cinq ans.

La préoccupation des associations d'élus est certes parfaitement compréhensible de vouloir ménager les conditions de transition des collectivités. Cette transition est en effet, on l'a vu, coûteuse en temps, en argent et en effectifs mobilisés. Pour autant, l'aggravation du cyber-risque doit alerter sur le caractère urgent de la situation. La sécurisation de l'environnement numérique et IA des collectivités revêt une importance stratégique du point de vue de la continuité du service public et de la protection des données des citoyens face à la menace des hackers. Dans ces conditions, vos rapporteures penchent pour un délai de mise en oeuvre de trois ans, plutôt que cinq.

Proposition n° 10 : fixer à trois ans le délai de mise en conformité des collectivités territoriales concernées avec la directive NIS 2.

Délai : 1 an

Acteur(s) : ministère de l'Intérieur (direction générale des collectivités locales)

3. Une utilisation éthique de l'IA

Avec l'IA, il faut prendre garde à ce qu'une fascination trop exclusive pour le progrès technologique n'occulte pas le souci éthique. En d'autres termes, le recours à l'IA doit absolument s'inscrire dans un cadre éthique. Car le risque de détournement de l'IA ne peut pas être négligé. On pense bien évidemment aux hypertrucages dits « deepfakes », ces images et vidéos truquées par le recours à l'IA et tendant à se répandre sur les réseaux sociaux. Mais les projets IA développés par les pouvoirs publics eux-mêmes, dont les collectivités territoriales, sont susceptibles de comporter des biais qui doivent faire l'objet d'une attention particulière.

L'IA et les algorithmes : vers une société de surveillance généralisée ?

Au nom de « La Quadrature du Net » qui se définit comme une association « promouvant et défendant les libertés fondamentales dans l'environnement numérique », Bastien Le Querrec et Marne Strazielle, respectivement juriste et directrice de la communication pour l'association, ont souligné deux grandes familles de risques de détournements de l'IA :

- des détournements résultant de l'opacité technique de cette technologie ;

- des détournements relevant d'une volonté politique initiale de sécurisation des citoyens et des espaces publics.

Concernant l'opacité des algorithmes, « La Quadrature du Net » parle, dans son rapport « Vidéosurveillance algorithmique, dangers et contre-attaque » (mai 2024), d'un « jeu d'opacités multiples ». Pour l'association, l'opacité de l'IA dépasse le seul aspect technique : elle est aussi politique, administrative et pratique. Bastien Le Querrec constate que « les collectivités territoriales sont démarchées par des sociétés mais, malgré des demandes auprès de la commission d'accès aux documents administratifs (CADA), il est très difficile de savoir ce que font les logiciels vendus ». Les collectivités acheteuses de produits IA se trouvent parfois face à de véritables « boîtes noires » développées par des « entreprises qui sont les seules à avoir la main sur les choix qui se retrouvent gravés dans le code ». Ni les collectivités, ni leurs citoyens ne savent alors exactement à quoi ils ont à faire.

Selon « La Quadrature du Net », ce manque de transparence facilite le détournement de l'usage des IA. L'association considère notamment que l'organisation de grands événements (rencontres sportives internationales, grands concerts...) fournit désormais le prétexte pour développer massivement le recours à une IA sécuritaire. Dans cette critique, les expérimentations autorisées dans le cadre des Jeux Olympiques et Paralympiques de Paris, par exemple, comporteraient une dimension cachée : il s'agirait autant de protéger le citoyen que de l'accoutumer à une technologie intrusive.

Enfin, d'après « La Quadrature du Net », « la vidéosurveillance est en passe d'être légalisée par des moyens détournés. Les huit cas d'usage prévus par la loi ne sont que la partie émergée de l'iceberg. D'autres usages sont rendus possibles. Les Jeux Olympiques sont une excuse pour légaliser la surveillance par l'IA ».

Les collectivités territoriales doivent tenir compte de ces dangers. C'est pourquoi le recours à l'IA nécessite le déploiement d'un cadre éthique spécifique et rigoureux, qui ne se confond pas avec l'arsenal juridique dont se dotent aujourd'hui les États (comme par exemple l'IA Act), il le complète.

Parce que les collectivités sont le lieu de rencontre entre les injonctions citoyennes en vue d'un meilleur service public et les obligations légales relatives au respect de la protection des données personnelles (RGPD, RGS...), l'échelle de la collectivité territoriale apparaît comme un niveau approprié de déploiement du filet de secours à dimension éthique.

À cette maille intermédiaire peuvent être élaborés des documents relatifs au « bon usage de l'IA », sous la forme notamment de chartes éthiques. Une telle charte permet à la collectivité de fixer les principes, les valeurs et les normes éthiques auquel tout projet d'IA développé sur son territoire doit se conformer.

La réflexion sur le « bon usage de l'IA » doit même constituer une étape obligatoire et préalable à la construction de tout projet IA, selon le président de l'association Ekitia et co-auteur du rapport « Data et territoires », Bertrand Monthubert : « l'éthique devrait être la préoccupation première, dans un contexte de défiance grandissante envers l'usage des données et de l'IA.
Les collectivités devraient donc adopter une approche « éthique by design », c'est-à-dire en intégrant la dimension éthique dès l'origine de chaque projet ».

Pour le président de l'association Ekitia, la prise en compte de cette préoccupation par les collectivités peut passer par l'élaboration d'une charte éthique sur le modèle que propose son association, la « Charte Ekitia ».

3) « Qualité des données et sécurité
du système d'information »

· Qualité des données ;

· Sécurité des données ;

· Robustesse des algorithmes.

4) « Transparence »

· Information claire et accessible à tous ;

· Explicabilité des algorithmes pour remédier à l'opacité technique ;

· Auditabilité via la documentation de chaque étape pour favoriser le contrôle du projet.

5) « Gouvernance des données
dans un cadre de confiance »

· Apprentissage collectif : encourager les « communs numériques » ;

· Évaluation des risques ;

· Inclusion des citoyens et utilisateurs finaux ;

· Intégrité : respect des règles déontologiques, esprit de coopération.

6) « Réciprocité »

· Répartition équitable de la création de valeur entre les parties prenantes du projet d'IA.

Aujourd'hui, « 16 collectivités territoriales ou agences liées à des collectivités sont adhérentes à la Charte d'Ekitia » : les régions Occitanie et Bretagne, Bordeaux Métropole, Montpellier Méditerranée Métropole, Toulouse Métropole, Rennes Métropole, la communauté d'agglomération du Sicoval, Haute-Garonne Numérique, Territoire d'énergie Lot, le CEREMA, l'Institut national de l'information géographique et forestière (IGN), La Poste, la SNCF, le MiPih¹, le centre national d'études spatiales (CNES) et ZeFil².

¹ Structure publique de coopération hospitalière.

² Réseaux d'infrastructures numériques pour la gestion et la commercialisation du réseau Fibre Pro de Toulouse Métropole.

Il est important de souligner qu'une charte éthique ne constitue pas un cadre statique enserrant le recours à l'IA. Au contraire, elle peut fournir un fil conducteur dans le développement d'un projet IA de A à Z.

Le rôle et l'impact d'une charte éthique dans le développement des projets IA d'une collectivité territoriale

Source : schéma inspiré de « L'éthique des données dans les chartes éthiques des collectivités territoriales » (Ugo Verdi, 2023)

Proposition n° 11 : établir une charte éthique de l'IA dans les collectivités territoriales (sur la base du volontariat) pour fournir un cadre de confiance au développement de leurs projets IA.

Délai : 5 ans

Acteur(s) : collectivités territoriales

CONCLUSION

Les collectivités territoriales n'ont pas manqué le démarrage du train de l'IA. Au regard des autres administrations publiques et du monde de l'entreprise, elles n'ont pas à rougir de leurs premiers pas et peuvent même avancer quelques motifs légitimes de fierté. Dans un univers territorial soumis à de rudes contraintes et jamais très loin de la crise, ce constat représente un élément de satisfaction à ne pas bouder.

Toutes les collectivités ne sont bien évidemment pas aussi avancées les unes que les autres. Mais il est frappant de constater que de la petite commune de Saint Savin en Isère jusqu'aux plus grandes métropoles, le mouvement est engagé. Les applications de l'IA y sont quasiment aussi nombreuses et diverses que les politiques publiques elles-mêmes. Certains champs privilégiés se distinguent plus particulièrement, comme par exemple la sécurité ou l'accompagnement de la transition écologique, mais globalement aucun ne reste au bord du chemin.

L'enjeu réside désormais dans la pertinence des projets choisis et des solutions IA retenues. Il ne faut en effet pas douter que les élus locaux seront, de façon croissante dans les mois et les années à venir, soumis à un intense démarchage commercial et sensibles parfois à des phénomènes de mode. Or, si l'apport de l'IA est dans certains cas incontestable, dans d'autres cas le recours à cette technologie ne s'imposera pas forcément. Le niveau d'expertise requise, le coût financier et l'impact environnemental sont autant de critères à prendre en compte afin de mesurer l'opportunité d'un projet à base d'IA.

Finalement, pour les collectivités territoriales, la période à venir devrait être à la fois celle de l'acclimatation et celle de la maturité. En pénétrant encore davantage l'univers des collectivités, l'IA s'y banalisera pour tout simplement devenir un outil, à ranger parmi d'autres, au service des élus locaux, des agents publics et de l'efficacité des services publics jusqu'au « dernier kilomètre ».

EXAMEN EN DÉLÉGATION

Lors de sa réunion du 13 mars 2025, la délégation aux collectivités territoriales a autorisé la publication du présent rapport.

M. Bernard Delcros, président. - Chers collègues, je vous propose d'écouter sans tarder nos collègues Pascale Gruny et Ghislaine Senée pour la présentation très attendue de leur rapport. Je les remercie d'avoir accepté de la décaler à la suite de l'audition du ministre Rebsamen qui s'est prolongée il y a quelques jours.

Mesdames, le sujet sur lequel vous avez travaillé tout au long de l'année 2024 est d'une importance capitale. Les collectivités devront intégrer la question de l'IA, dont nous commençons à peine à mesurer les effets. Nous avons déjà constaté les bouleversements qu'a entraînés l'arrivée du numérique dans nos méthodes de travail, notre vie quotidienne et le fonctionnement des collectivités. L'IA promet des changements au moins aussi importants, voire davantage. Il est donc crucial que notre délégation y travaille pour anticiper et préparer les collectivités à cette transformation majeure.

Le 10 octobre, lors d'une table ronde en collaboration avec la délégation à la prospective, nous avons examiné l'impact de l'IA sur la vie des collectivités. Ce sujet suscite, comme toute nouveauté, des interrogations, des espoirs, mais aussi des doutes, et parfois des craintes parmi nos concitoyens.

Un sommet international sur l'IA s'est tenu à Paris début février, offrant un éclairage général sur les implications de l'IA. Il ne s'est pas concentré spécifiquement sur les collectivités. Le travail que vous avez mené va donc nous apporter des éléments précieux sur ce sujet.

Mme Pascale Gruny, rapporteur. - Mon premier contact avec l'IA remonte à un débat dans l'hémicycle du Sénat, en présence du ministre Mounir Majoubi. N'ayant alors aucune connaissance en la matière, j'avais été saisie par la complexité et les implications de cette technologie. C'est précisément cette prise de conscience qui alimente mon vif intérêt pour ce sujet.

Le président le rappelait : l'IA n'est pas une évolution à venir, elle est déjà une réalité. Nos collectivités territoriales doivent impérativement être armées pour relever ce défi.

Je tiens à remercier Ghislaine Senée pour la qualité du travail que nous avons mené ensemble lors des auditions, notre précédente présidente, Françoise Gatel, qui nous avait confié cette mission, ainsi que notre président actuel, Bernard Delcros. Je remercie également l'ensemble des membres de la délégation pour la confiance qu'ils nous ont témoignée.

La création de cette mission reposait sur une intuition forte, accompagnée de nombreuses interrogations encore sans réponse : l'IA va profondément transformer nos communes, nos intercommunalités, nos départements et nos régions. Sachez que notre rapport constitue le premier travail parlementaire exclusivement consacré aux collectivités. Il offre une vision prospective et s'appuie sur de nombreux exemples concrets. Il pose des questions fondamentales : l'IA supprimera-t-elle des emplois ? Quel sera le rôle de l'humain demain au sein des collectivités ? L'utilité même des élus pourrait-elle être remise en cause ? À ces interrogations parfois sources d'inquiétude, nos conclusions apportent des éléments de réponse rassurants.

Face à l'essor rapide et massif de l'IA, ce rapport se veut un guide pratique à destination des décideurs locaux, leur fournissant des repères pour appréhender cette technologie et en exploiter les opportunités.

Il est indéniable que l'IA suscite autant de fascination que d'inquiétudes. Nous avons pu vérifier ce constat lors d'une table ronde organisée en collaboration avec la délégation à la prospective, en présence d'experts et d'une romancière de science-fiction.

Avant tout, il est essentiel de démystifier cette technologie. Nous avons fait le choix d'expérimenter nous-mêmes l'IA en produisant la synthèse de notre rapport d'information avec l'outil Delibia, principalement conçu pour générer des projets de délibérations. Cette tentative s'étant révélée infructueuse, nous avons eu recours à Mistral, dont les résultats ont toutefois nécessité un travail humain considérable. Nos administrateurs ont consacré dix heures pour compléter le document de synthèse que vous avez entre les mains. Ainsi, l'IA ne nous remplacera pas.

D'un point de vue schématique, l'IA est une machine conçue pour parvenir en un instant à une conclusion à laquelle un individu serait parvenu par sa logique et sa raison, avec du temps. Elle repose sur un principe fondamental : l'apprentissage. C'est pourquoi on parle souvent de la nécessité de « nourrir » l'IA. Son fonctionnement s'inspire du vivant, en reproduisant les mécanismes des réseaux de neurones. Trois éléments clés sont indispensables à son développement : des données, une capacité de calcul exceptionnelle et un algorithme.

La démystification de l'IA nécessitera du temps. C'est pourquoi nous formulons deux propositions à l'échelle des collectivités.

D'abord, il convient de développer des modules de sensibilisation et de formation à destination des élus et des agents. Dans certaines collectivités, l'IA est déjà utilisée sans que les élus en aient pleinement conscience. Il est donc primordial d'instaurer une culture commune autour de cette technologie.

Ensuite, il est essentiel d'associer les citoyens à l'introduction de l'IA dans les services publics locaux. Cette approche poursuit un double objectif : garantir l'acceptation citoyenne des applications de l'IA et prévenir tout risque de déshumanisation des services. À cet égard, la métropole de Montpellier-Méditerranée a ouvert la voie en instaurant une convention citoyenne sur l'IA, adossée à un comité d'experts. Les conclusions de cette convention, rendues au début de l'année dernière, ont contribué à l'élaboration d'une stratégie métropolitaine de l'IA et de la gestion des données, au service des habitants et du territoire.

Par ailleurs, de nombreuses collectivités ont d'ores et déjà levé les freins liés à cette technologie et surmonté les appréhensions initiales. De la commune de Saint-Savin, en Isère, à Paris, en passant par la communauté d'agglomération du Sicoval, en Haute-Garonne, plusieurs collectivités ont pris le tournant de l'IA. Elles exploitent cette technologie pour améliorer des politiques publiques essentielles : gestion des déchets, information des usagers, prévision des risques naturels ou encore analyse des mobilités.

En février 2024, lors d'une séance hors les murs, notre délégation a pu expérimenter Optimus, un agent conversationnel basé sur l'IA, déployé à la mairie de Plaisir, dans les Yvelines. Ce dispositif permet aux usagers de contacter le standard municipal 24 heures sur 24 et 7 jours sur 7, afin d'obtenir des renseignements de premier niveau. Les demandes plus complexes sont transmises à un agent standardiste. Grâce à cette innovation, le taux de perte des demandes traitées a chuté de 65 % à 8 %. Toutefois, je dois préciser que je n'ai pas eu de chance. J'ai posé une question simple d'usager, mais ma requête n'a pas été correctement traitée. Cet exemple souligne que l'IA ne remplace pas l'humain, mais intervient en complément. Les agents restent indispensables pour traiter les demandes plus complexes. Cette évolution peut valoriser leur rôle en les déchargeant des tâches les plus répétitives. C'est sous cet angle qu'il convient d'aborder et de promouvoir l'IA au sein des collectivités.

À Saint-Savin et dans la communauté d'agglomération des Portes de l'Isère, une IA développée par la start-up Leakmited contribue à l'optimisation de la ressource en eau. Son algorithme a permis d'identifier, en une seule semaine, cinq fuites, sauvant ainsi 150 mètres cubes d'eau par jour. Avant cette intervention, la commune distribuait 800 mètres cubes d'eau quotidiennement, mais n'en facturait que 600, les 200 mètres cubes restants étant perdus dans les canalisations vétustes. Grâce à cette technologie, le rendement du réseau d'eau potable est passé de 75 % à 90 %.

Dans les cantines scolaires de Nantes, un outil basé sur l'IA est également mobilisé pour lutter contre le gaspillage alimentaire. Grâce à l'analyse des séries statistiques des repas servis les années précédentes, ce dispositif anticipe, avec dix semaines d'avance, les commandes alimentaires à effectuer. Son taux de fiabilité atteint 98 %, contre 93 % pour les prévisions réalisées par les agents de la cantine.

À Nîmes, l'IA contribue également à l'anticipation des crues et à la prévention des inondations. Le projet « Hydr.IA » a permis à la ville d'établir des synergies entre le secteur public et le secteur privé, tout en limitant le coût supporté par la collectivité.

Une question revient fréquemment lorsque l'on évoque l'IA : cette nouvelle technologie va-t-elle détruire des emplois en remplaçant les agents ? Une étude menée par des élèves de l'Institut national des études territoriales (INET) à Lyon montre que les métiers les plus concernés par l'IA générative appartiennent principalement au secteur administratif. En moyenne, 82 % des tâches effectuées par les employés de bureau pourraient être réalisées, en tout ou en partie, par une IA de type ChatGPT. Les agents d'accueil et les assistants de gestion figurent parmi les professions les plus affectées.

Cependant, contrairement aux précédentes révolutions technologiques, l'IA générative touche autant les cols blancs que les cols bleus, dans la mesure où elle est capable d'accomplir des tâches cognitives complexes. Selon les estimations, environ 5 % des emplois pourraient, à terme, être assurés par une IA générative.

Toutefois, cette perspective ne doit pas être perçue comme un scénario catastrophe annonçant une disparition massive des emplois. Il convient plutôt de l'envisager comme une évolution des métiers sous l'effet de cette transformation technologique. Par exemple, la saisie de données pourrait être remplacée par des missions d'analyse approfondie des dossiers ou des informations collectées. Une telle réorientation des tâches rendrait ces professions plus enrichissantes et valorisantes.

L'essentiel est d'accompagner ce changement. Il est impératif que les agents soient informés et formés, et qu'ils ne se voient pas imposer l'utilisation de ces technologies sans préparation.

Mme Ghislaine Senée, rapporteure. - Il me semble que la démystification de l'IA constitue un enjeu fondamental, et que les différentes expériences que nous avons pu observer, qu'elles soient positives ou négatives, doivent nourrir la réflexion des décideurs. Ce sera à eux d'évaluer si l'IA a vocation à s'intégrer dans leurs services, voire à se substituer à certains agents.

Notre rapport dresse un état des lieux détaillé. Il met en lumière le fort potentiel d'amélioration des services publics locaux et les gains d'efficacité que l'IA peut apporter à nos collectivités. Toutefois, la mise en oeuvre de cette technologie exige de nombreuses précautions.

Nous avons cherché à nous placer du point de vue d'un élu local ou d'un directeur général des services qui s'interroge sur la meilleure manière d'engager sa collectivité dans un projet intégrant l'IA. La gouvernance des données constitue le premier enjeu central. L'IA nécessite une volumétrie de données considérable. Si la culture de la donnée a progressé sous l'impulsion du règlement général de protection des données (RGPD), elle demeure encore peu développée au sein de nos collectivités.

Pour réussir cette transition, il est indispensable de mettre en place une ingénierie dédiée à l'acculturation des acteurs publics à ces enjeux. Dans les collectivités d'une taille critique suffisante, que nous estimons à environ 30 000 habitants, nous recommandons la création de structures de gestion des données comparables aux services informatiques existants. Cela pourrait notamment prendre la forme d'un « chief data officer » (administrateur en chef des données), d'un réseau de référents data, d'un comité de gouvernance des données ou encore d'une direction dédiée à la gestion des données. Chaque collectivité devra bien entendu adapter ce cadre à ses propres spécificités.

En outre, afin de faciliter le partage des données à des fins d'intérêt général et d'encourager le retour d'expérience entre territoires, nous proposons la mise en place de comités territoriaux de la donnée. Ces instances permettraient de réunir et d'animer un réseau de partenaires institutionnels et privés, producteurs et consommateurs de données. J'ai pu constater lors du Forum des Interconnectés, lundi dernier, que plusieurs collectivités collaborent déjà activement dans ce domaine et partagent leurs expériences.

Enfin, à l'instar de ce que nous avons observé avec le numérique, l'IA risque d'accroître les fractures territoriales. Les collectivités les mieux dotées pourraient développer aisément des projets d'IA, tandis que les plus petites, faute de moyens, risqueraient d'en être exclues.

Pour éviter un décrochage face à l'IA, nous proposons que tout projet de développement s'appuie sur des collectivités cheffes de file. Celles-ci, grâce à leur expertise et leur capacité à piloter des projets d'envergure, pourraient entraîner avec elles d'autres communes aux moyens plus limités.

Ensuite, l'empreinte environnementale des solutions d'IA constitue une préoccupation majeure. En 2019, l'Université du Massachusetts a estimé que l'entraînement d'une IA générait une empreinte carbone équivalente à 205 trajets aller-retour Paris-New York en avion. En 2023, l'Université du Colorado a calculé que 25 requêtes adressées à ChatGPT consommaient en moyenne un demi-litre d'eau douce.

Dans cette optique, nous formulons deux propositions pour encourager une IA durable et frugale, au service des collectivités :

• intégrer l'impact environnemental parmi les critères de sélection des solutions d'IA lors de l'attribution des marchés publics ;

• créer une bibliothèque nationale des projets IA développés par les collectivités.

Cette plateforme numérique permettrait aux collectivités de recenser leurs initiatives, de consulter celles mises en oeuvre ailleurs et d'évaluer notamment leur empreinte environnementale, afin de promouvoir un développement raisonné et adapté aux besoins locaux.

Par ailleurs, la durabilité de l'IA repose également sur une approche éthique. Tout projet IA doit être précédé d'une réflexion collective sur les principes, les valeurs et les normes éthiques auxquels il devra répondre. Nous encourageons donc les collectivités à formaliser ces engagements au sein d'une charte éthique. Cette démarche permet de favoriser le débat et l'appropriation citoyenne des projets IA à l'échelle locale, et d'encadrer l'IA pour s'assurer qu'elle réponde réellement aux besoins du territoire.

Enfin, la question de l'éthique soulève rapidement celle de la sécurisation du recours à l'IA. Sur ce point, les collectivités ne partent pas de zéro. L'Union européenne a posé un cadre réglementaire avec le « Cybersecurity Act » de 2019, complété par la directive NIS II, qui vise à renforcer la cybersécurité de certaines collectivités territoriales. L'Agence nationale de la sécurité des systèmes d'information (ANSSI) estime que 2 481 collectivités seront concernées par ces exigences.

Toutefois, un point reste à arbitrer : le délai de mise en conformité. Les associations d'élus plaident pour cinq ans, afin de limiter la charge financière et organisationnelle. L'ANSSI et la Commission supérieure du numérique et des postes (CSNP) préconisent trois ans pour accélérer la sécurisation des systèmes.

Si nous comprenons les contraintes pesant sur les collectivités, nous soulignons que certaines grandes entreprises profitent de cette mise en conformité obligatoire pour facturer des prestations à des tarifs excessifs. Des témoignages récents font état de pratiques abusives qui alourdissent considérablement la charge financière des collectivités.

Au-delà de ces enjeux financiers, notre rapport souligne les nombreuses vulnérabilités en matière de cybersécurité posées par l'IA. L'actualité récente l'a démontré : les collectivités territoriales ne sont pas épargnées par les cyberattaques. C'est pourquoi nous préconisons que le délai de mise en conformité soit porté à trois ans afin de permettre aux collectivités, avec le soutien de l'État et de ses opérateurs, d'appréhender pleinement les enjeux de sécurité liés à l'IA et de développer des projets pérennes et responsables.

Au terme de notre mission, nous affirmons que les collectivités territoriales n'ont pas à rougir de leur engagement dans le domaine de l'IA. Nombre d'entre elles ont su, en pionnières, s'approprier cet outil au service des politiques publiques.

Toutefois, l'heure n'est pas au triomphalisme. La période à venir sera déterminante : l'IA se généralise à un rythme soutenu, et ceux qui ne s'y engagent pas risquent de prendre un retard difficilement rattrapable. Il convient donc de trouver un équilibre délicat.

Les collectivités doivent concilier des objectifs de nature très différente : accroître l'efficacité de leurs politiques publiques tout en garantissant la protection des libertés individuelles, adapter leur organisation sans renier la place essentielle de l'humain et assurer une transition respectueuse de l'environnement. Chaque semaine, de nouveaux projets d'IA émergent au sein des collectivités. Fort heureusement, les premières réalisations se sont révélées suffisamment prometteuses pour entretenir l'espoir de voir les collectivités continuer à faire preuve d'exemplarité.

Je tiens à remercier la délégation aux collectivités territoriales, ainsi que la ministre Françoise Gatel et le président Delcros, pour leur engagement sur ce sujet particulièrement prégnant.

Dans un contexte politique en perpétuelle évolution, notre rapport, finalisé en décembre, met en évidence des enjeux qui s'accélèrent. Un point, peut-être sous-estimé, mérite aujourd'hui une attention particulière : la question de la dépendance technologique. À l'aune des tensions internationales, il est impératif d'organiser notre souveraineté en la matière.

Nous sommes convaincues que le Sénat a tout intérêt à accompagner les collectivités, qui devront inévitablement faire face à ces décisions stratégiques.

M. Bernard Delcros, président. - Je me permets d'insister sur le risque d'inégalité territoriale entre les grandes collectivités, qui auront les moyens d'anticiper et d'appréhender ces sujets, et les petites collectivités aux ressources limitées. Il ne faudrait pas reproduire la fracture numérique que nous avons connue précédemment, par manque d'anticipation.

Vous proposez qu'une collectivité joue le rôle de chef de file pour embarquer les autres. Pensez-vous que l'État a un rôle à jouer dans l'accompagnement des petites collectivités ? L'intercommunalité peut-elle fédérer les collectivités autour de cette question ?

Mme Muriel Jourda. - Je crois comprendre que l'IA n'a rien d'intelligent en soi. Il s'agit plutôt d'un calculateur géant, capable de traiter des informations plus rapidement que nous. Contrairement à une calculatrice qui présente des réponses limitées, les IA peuvent traiter des questions avec un large éventail de réponses possibles.

Il me semble que la fiabilité de ces outils dépend grandement de la façon dont on les alimente en données. Avec des données fermées et fiables, on pourrait obtenir des résultats assez précis. J'ai entendu dire que le taux d'erreur de ChatGPT augmentait, parce qu'il se nourrit entre autres des réseaux sociaux, où la fiabilité des informations n'est pas garantie. Je comprends donc que nous devons alimenter l'IA avec des données fiables pour obtenir des réponses fiables.

J'ai personnellement testé l'IA pour rédiger un discours d'inauguration d'une médiathèque. En une fraction de seconde, j'ai obtenu un discours tout à fait honorable, comparable à ce que pourrait produire un collaborateur compétent. Ce résultat soulève la question de l'évolution des emplois face à cette technologie.

Bien que cette technologie puisse entraîner des changements, nous ne devrions pas y voir un obstacle. L'histoire nous montre que les avancées technologiques ont toujours transformé le paysage professionnel, comme l'imprimerie l'a fait en son temps.

L'IA peut être extrêmement fiable si elle est alimentée par des données précises. Elle offre des résultats rapides et intéressants, à l'instar d'une calculatrice qui effectue des calculs rapides. Cependant, il est crucial de comprendre ses limites. Une formatrice nous a partagé une expérience révélatrice : elle a demandé à ChatGPT comment cueillir des oeufs de panda. Bien que nous sachions que les pandas ne pondent pas d'oeufs, l'IA a fourni une réponse détaillée, mais complètement erronée, démontrant l'importance de l'esprit critique et des connaissances de base de l'utilisateur.

Par ailleurs, je pense que les petites communes auraient intérêt à observer comment les grandes collectivités gèrent ces nouvelles technologies. Les systèmes s'améliorent rapidement, et il pourrait être judicieux d'attendre que des solutions éprouvées et efficaces émergent avant de s'équiper.

M. Bernard Delcros, président. - Tous les progrès techniques génèrent des évolutions d'emploi. Il faut les anticiper plutôt que lutter contre elles, de façon à gommer un maximum d'effets négatifs et à mettre en avant des aspects positifs.

Mme Anne-Catherine Loisier. - L'IA est d'ores et déjà omniprésente. La véritable question réside dans la place qu'elle occupera au cours des prochaines années et dans les moyens à mettre en oeuvre pour accompagner les collectivités, en particulier les plus isolées, dans son adoption.

En Côte-d'Or, le conseil départemental s'investit pleinement dans le développement du numérique et des outils technologiques associés. Cet échelon administratif me semble particulièrement pertinent pour traiter ces enjeux. Actuellement, le département procède au déploiement de centres de données afin d'assurer un stockage souverain des informations communales. Par ailleurs, une équipe spécialisée au sein des services techniques accompagne activement les municipalités dans l'intégration de ces nouvelles technologies.

J'observe que de nombreuses communes du département ont d'ores et déjà recours à l'IA afin de rédiger les comptes rendus de séance. Ces usages, accessibles et maîtrisables, ne soulèvent pas de difficultés d'interprétation majeures, dans la mesure où ils ne nécessitent ni analyse de données complexe, ni démarche prospective.

L'essentiel demeure de progresser avec l'appui d'experts maîtrisant ces technologies, afin d'en encadrer les usages et d'éviter toute dérive à l'avenir.

Mme Nadine Bellurot. - Cette technologie est intrinsèquement alimentée par l'humain. Son intervention demeure indispensable à chaque étape du processus. Il est indéniable que toute innovation technologique génère de nouveaux emplois, mais entraîne également des suppressions de postes, induisant ainsi une nécessaire réorganisation de notre tissu socio-économique.

Il est donc primordial que les individus bénéficient d'une formation adaptée et acquièrent les compétences requises. L'exemple mentionné précédemment, concernant la cueillette des oeufs de panda, illustre parfaitement le risque qu'une absence d'intervention humaine puisse conduire à la production et à la diffusion d'informations erronées, susceptibles d'être prises pour des réalités. L'humain doit rester au coeur de cette transformation. Il doit donc disposer de moyens intellectuels, pratiques et critiques pour interagir avec ces intelligences artificielles. Faute de quoi, nous courons le risque d'une société déshumanisée et altérée dans sa perception du réel.

L'IA est d'ores et déjà utilisée par nos collectivités dans de nombreux domaines. Les professions juridiques disposent aujourd'hui d'outils d'IA, capables de fournir instantanément des références jurisprudentielles. Dans ce contexte, qu'adviendra-t-il des assistants ? Pour autant, l'expertise de l'avocat demeure indispensable pour sélectionner, interpréter et exploiter ces informations dans le cadre d'une plaidoirie.

Il convient également de souligner le coût substantiel de ces technologies pour les collectivités et les entreprises, celles-ci devant faire face à des besoins constants de mises à jour et de renouvellement des applications.

M. Lucien Stanzione. - Bien que généralement attiré par les nouvelles technologies, je me trouve curieusement réticent face à l'IA. Pascale Gruny a évoqué la possibilité pour les communes d'offrir des informations par téléphone le week-end grâce à des systèmes automatisés. Ce dispositif me préoccupe. Nous avons tous déjà éprouvé la frustration de devoir naviguer à travers des menus téléphoniques interminables, sans jamais parvenir à échanger avec un interlocuteur humain. Ce phénomène risque de s'intensifier. Ma préoccupation majeure concerne l'impact d'une telle transition sur nos usagers, en particulier ceux qui ne disposent ni des moyens, ni des compétences nécessaires pour interagir avec des dispositifs technologiques avancés, notamment les personnes âgées.

Je m'interroge donc : comment assurer l'évolution de nos services tout en garantissant leur accessibilité pour tous ?

M. Jean-Jacques Lozach. - Vous avez mentionné la nécessité d'une appropriation citoyenne de l'IA. Avez-vous connaissance de territoires au sein desquels des actions de formation et de sensibilisation ont été mises en place à destination des usagers, via des tiers-lieux ou des maisons France Services ?

M. Hervé Reynaud. - Je souhaiterais aborder cette question sous l'angle des services publics. Il me semble essentiel de préciser les termes du débat. Parlons-nous d'une intelligence augmentée susceptible d'apporter un soutien même aux plus petites communes, notamment pour pallier la pénurie de secrétaires de mairie ? Une telle innovation pourrait renforcer leur capacité à répondre aux attentes des administrés.

Je partage les préoccupations exprimées quant aux difficultés d'accès à certains services publics, en particulier par téléphone, qui engendrent des inégalités parmi les usagers.

Par ailleurs, j'ai été surpris d'apprendre que certains de nos collègues ont déjà recours à des logiciels d'IA pour générer des discours prêts à l'emploi. Une telle pratique soulève des interrogations quant au risque d'appauvrissement du débat démocratique et à la question de l'authenticité dans nos échanges politiques.

Il me semble donc primordial de fixer une limite claire : l'IA doit demeurer un outil au service de l'information et de l'amélioration des services publics, sans jamais se substituer à l'intelligence humaine.

Mme Corinne Féret. - Ce rapport de qualité soulève des questions essentielles, dépassant les clivages générationnels et interrogeant la nature même de la société que nous souhaitons bâtir pour l'avenir.

Il est primordial de rappeler que l'humain demeure au coeur du processus. Les données traitées par l'IA ont été saisies par des hommes et des femmes. La machine, en tant que telle, ne peut rien inventer, bien qu'elle puisse parfois produire des résultats ubuesques.

L'IA constitue une avancée majeure dans l'amélioration de nos pratiques, mais son déploiement ne saurait se faire au détriment des usagers. Son objectif premier doit viser à renforcer la relation entre nos concitoyens et l'administration, quel que soit le niveau de collectivité concerné.

Dans cette perspective, je m'interroge sur la place que pourraient occuper les maisons France Services dans ce processus. Nous en comptons plus de quarante dans le Calvados. Ces structures pourraient jouer un rôle d'interface entre les citoyens, l'administration dans son ensemble et l'usage de l'IA, contribuant ainsi à en démocratiser l'accès et à en faciliter la compréhension.

Enfin, il me semble essentiel de souligner l'importance de l'éducation à l'IA dès le plus jeune âge, notamment dans les collèges. Les jeunes générations sont déjà sensibilisées à ces enjeux à travers des heures dédiées à la découverte et à l'appropriation de ces technologies. Cette démarche est porteuse d'espoir.

M. Pierre-Jean Rochette. - J'ai particulièrement apprécié l'analogie établie entre l'IA et la calculatrice. En effet, il s'agit d'un outil dont nous devons nous accommoder, car il s'inscrit désormais durablement dans notre environnement. Il pourrait constituer un appui précieux pour les petites communes sur de nombreux sujets.

Cependant, je souhaiterais ouvrir une parenthèse sur une question connexe : l'impact potentiel de l'IA sur la natalité dans les années à venir. Il s'agit d'un risque avéré, particulièrement observable dans certains pays asiatiques, où l'essor de l'IA et de la robotique contribue à un isolement social croissant et à une diminution des taux de natalité.

S'agissant des collectivités territoriales, il me semble primordial d'orienter notre réflexion vers l'encadrement des usages de l'IA. Il convient de définir avec précision les services susceptibles d'être proposés à la population par le biais de ces technologies, tout en demeurant particulièrement vigilants face aux éditeurs de logiciels, parfois étrangers, qui pourraient être tentés d'aspirer les données, dont nous ne saurions rien des détenteurs finaux. Notre souveraineté numérique serait alors compromise.

Dans cette optique, je suggère que l'État joue un rôle de soutien auprès des collectivités territoriales, en leur fournissant des recommandations sur les usages pertinents de l'IA et en encadrant strictement la commercialisation de ces solutions.

À cet égard, Mistral pourrait constituer un partenaire stratégique. Cette entreprise pourrait fournir aux collectivités un outil garantissant un contrôle effectif sur leurs données, prévenant ainsi toute dispersion incontrôlée d'informations sensibles.

M. François Bonhomme. - Nous avons tendance à considérer l'IA comme un simple outil dont nous conserverions l'entière maîtrise. Toutefois, il me semble essentiel de nous interroger sur notre rapport à la connaissance et sur les facilités qu'offrent les technologies actuelles.

Nous faisons face à un risque d'externalisation de nos capacités cognitives, notamment pour les nouvelles générations qui auront grandi dans un environnement où ces outils sont omniprésents. Les personnes nées après 2010, appelées à exercer des responsabilités dans un avenir proche, évoluent dans un univers entièrement numérisé, ce qui pourrait, à terme, appauvrir la qualité du débat public. Olivier Babeau, dans son ouvrage « L'ère de la flemme », évoque l'émergence de générations qualifiées de « paresseuses » - non pour les stigmatiser, mais pour mettre en évidence l'impact de cette hyper-dépendance aux outils numériques sur nos modes de pensée et d'apprentissage.

S'agissant des collectivités locales, nous reconnaissons les bénéfices que l'IA peut apporter, tant pour l'exécution de tâches répétitives que pour des missions plus complexes. Toutefois, il nous appartient de réfléchir aux implications d'un tel changement sur notre rapport au monde et sur la société que nous souhaitons bâtir.

Il y a quelques années, les collectivités locales ont promu le « totem technologique » comme un symbole de modernité, notamment en l'introduisant au sein de nos établissements scolaires. Nous nous demandons aujourd'hui comment l'en faire sortir.

Mme Catherine Belrhiti. - Ma principale préoccupation porte sur la protection des données. Nous venons de publier un texte visant à renforcer la sécurité et la résilience de nos infrastructures en matière de cybersécurité. Il s'agit d'un enjeu crucial, car l'ensemble de nos données pourrait potentiellement être exposé à des risques d'intrusion.

De la même manière que nous avons exprimé des inquiétudes quant à la vulnérabilité de nos établissements hospitaliers face aux cyberattaques, nos collectivités pourraient elles aussi être mises en danger. Il est donc impératif d'anticiper ces menaces et d'adopter des mesures rigoureuses pour garantir la protection de nos systèmes d'information.

M. Bernard Delcros, président. - Merci beaucoup pour toutes vos questions et interventions sur ce sujet qui nous interroge tous. Merci, également, à ceux qui ont testé les outils d'IA. Il serait d'ailleurs intéressant de prévoir une séance dédiée à ces applicatifs, afin de sensibiliser tous les membres de la délégation.

Mme Pascale Gruny, rapporteur. - S'agissant du rôle de l'État, nous avons proposé la mise en place d'une plateforme permettant d'identifier les différentes solutions d'IA et d'orienter les acteurs vers des outils plus ou moins reconnus. Cette question est particulièrement préoccupante pour les petites communes, qui disposent de moyens limités et dont les secrétaires de mairie utilisent parfois ces outils sans encadrement, exposant ainsi leur collectivité à d'éventuels risques. La protection des données constitue donc un enjeu fondamental, d'autant plus lorsque ces usages se développent à l'insu des élus.

Par ailleurs, il arrive qu'une collectivité achète une solution, mais que son éditeur soit finalement contraint de fermer, affectant la pérennité de l'outil. Le partage d'expérience est essentiel dans ce cadre.

À cet égard, l'initiative portée par Xavier Bertrand dans les Hauts-de-France, visant à développer une zone dédiée aux data centers autour de Cambrai, est une piste intéressante. Il convient d'assurer aux collectivités une certaine autonomie tout en leur offrant un cadre structurant.

L'impact de l'IA sur l'éducation nationale doit également être suivi. Cette technologie modifie profondément notre rapport à la connaissance, ce qui impose de renforcer dès le plus jeune âge l'esprit critique et les capacités de synthèse.

Par ailleurs, ces outils pourraient constituer un levier d'optimisation pour les secrétaires de mairie en leur permettant de consacrer davantage de temps aux missions relationnelles auprès des administrés.

La cybersécurité demeure un enjeu primordial, indépendamment de l'IA. Il serait pertinent d'organiser une coopération à l'échelle des collectivités afin de favoriser le partage des bonnes pratiques et de mutualiser les efforts en matière de protection des systèmes d'information.

Enfin, la question de l'éthique est centrale, en particulier dans des domaines tels que la vidéoprotection, où l'IA est de plus en plus sollicitée. L'exemple de la convention citoyenne de Montpellier a, à cet égard, apporté des enseignements précieux.

Mme Ghislaine Senée, rapporteure. - La France est en pointe sur le développement de l'IA, comme l'a confirmé Mistral. L'État, en coopération avec ses services, structure son déploiement, tandis que des acteurs comme France Services oeuvrent à la réduction de la fracture numérique.

Dans mon département, une présentation de France Services a mis en évidence sa capacité à accompagner les citoyens grâce à ces outils. L'expérience des serveurs vocaux a montré des échanges fluides, avec un taux de résolution de 84 %, les demandes portant souvent sur des questions simples comme les horaires de la mairie. Lorsque le chatbot ne peut répondre, il oriente l'usager vers un agent humain.

Il est essentiel de démystifier ces technologies, qui relèvent davantage de l'information que d'une véritable intelligence. Elles offrent un gain de temps considérable en automatisant des tâches répétitives, comme l'enregistrement des dossiers scolaires. Plusieurs communes, à l'image de Montpellier, ont d'ailleurs organisé des conventions citoyennes pour en favoriser l'appropriation et en fixer les limites acceptables.

Sur le plan réglementaire, des services de l'État tels qu'Ecolab ou l'Inspection générale de l'environnement et du développement durable (IGEDD) ont déjà travaillé sur l'empreinte environnementale de ces outils. L'Union européenne a également établi un cadre législatif rigoureux avec cinq lois encadrant l'IA et l'utilisation des données : la loi « Data Governance Act » (accès aux données), le « Data Act » (propriété des données), le « Digital Services Act » (régulation de l'espace numérique), le « Digital Markets Act » (règles économiques) et l' « IA Act », qui fixe des obligations en fonction des risques. Il est crucial de défendre ce cadre, malgré les contraintes qu'il implique.

Les collectivités abordent ces enjeux avec maturité. Un accompagnement adapté, notamment via des bibliothèques nationales et des comités territoriaux, permettra de tirer parti de ces avancées tout en évitant une fracture numérique.

Si des inquiétudes demeurent, notamment sur l'impact de l'IA vis-à-vis de la paresse, il ne fait aucun doute que ces technologies transformeront notre société, pour le meilleur, je l'espère.

M. Bernard Delcros, président. - Merci pour ce travail très intéressant. Nous sommes aux prémices d'une nouvelle aventure, qui méritera d'être suivie.

Mme Anne-Catherine Loisier. - Le département de la Côte d'Or a créé ses propres centres de données. Il serait très instructif de découvrir comment les collectivités les plus innovantes se sont engagées dans cette voie, à l'occasion d'une table ronde.

M. Bernard Delcros, président. - En effet. Je vous propose de procéder au vote relatif à ce rapport.

Les recommandations sont adoptées.

La délégation adopte, à l'unanimité, le rapport d'information et en autorise la publication.

M. Bernard Delcros, président. - Le rapport recueille un vote favorable unanime.

Le 17 mars, Loïc Hervé organise une table ronde sur les sports et la coopération décentralisée. L'un de vous pourrait-il représenter notre délégation ? Nous verrons comment nous pouvons être représentés.

LISTE DES PERSONNES ENTENDUES

AUDITIONS EN SÉANCE PLÉNIÈRE

Jeudi 15 février 2024

Table-ronde n° 1 dans le cadre d'un « hors-les-murs » à Sceaux, organisés par la délégation aux collectivités territoriales - « Les premières applications de l'IA dans l'univers des collectivités territoriales » :

- M. Khaled Belbachir, directeur des relations citoyennes de la commune de Plaisir ;

- M. Thomas Guenoux, co-fondateur et Chief Executive Officer (CEO) de la société Yelda AI ;

- M. Johan Catouillard, directeur général adjoint Sécurité civile, patrimoine bâti et moyens de la commune de Noisy-le-Grand ;

- M. Jean-Baptiste Roffini, co-fondateur de la société Delibia ;

- M. Hubert Castelneau, responsable relations publiques de la société Delibia.

Table-ronde n° 2 - « L'accompagnement des collectivités territoriales face aux risques numériques » :

- M. Richard Buisset, directeur général du syndicat interdépartemental pour l'assainissement de l'agglomération parisienne (SIAAP) ;

- M. Guillaume Crépin, délégué de l'Agence nationale de la sécurité des systèmes d'information (ANSSI) pour la région Île-de-France ;

- M. Achilles Lerpinière, directeur des systèmes d'informations à la région Île-de-France ;

- M. Philippe Laurent, maire de Sceaux.

Jeudi 10 octobre 2024

Table-ronde conjointe avec la délégation sénatoriale à la prospective - « L'IA va-t-elle transformer nos villes et nos villages ? » :

- Mme Catherine Dufour, romancière et auteure de science-fiction, ingénieure ;

- M. Jean-Gabriel Ganascia, professeur d'informatique à la faculté des sciences de Sorbonne Université et membre du comité pilote de l'éthique du numérique (CNNE) ;

- M. Pierre Jannin, conseiller municipal délégué à l'Innovation et au numérique à la ville de Rennes, membre d'Interconnectés.

AUDITIONS DES RAPPORTEURES

Mercredi 27 mars 2024

Audition n° 1 - Société Verteego :

- M. Clément Guillon, co-Chief Executif Officer (CEO) de la société Verteego.

Audition n° 2 - DataLab de la Délégation interministérielle au numérique (DINUM) :

- M. Ulrich Tan, adjoint à la directrice d'Etalab, chef du DataLab.

Audition n° 3 :

- Mme Laurence Devillers, professeure à l'Université Paris-Sorbonne et chercheuse au Laboratoire d'informatique pour la mécanique et les sciences de l'ingénieur (Limsi) du CNRS.

Mardi 30 avril 2024

Audition n° 4 - Société Leakmited :

- M. Hubert Baya-Toda, fondateur de Leakmited ;

- M. Arnaud Nouvion, conseiller en affaires publiques et communication ;

- M. Fabien Durand, maire de Saint-Savin et vice-président délégué au Cycle de l'eau de la Communauté d'Agglomération Porte de l'Isère ;

- M. Yves Coque, directeur cadre de vie de la Communauté d'Agglomération Porte de l'Isère.

Mardi 7 mai 2024

Audition n° 5 - Association « La Quadrature du net » :

- M. Bastien Le Querrec, juriste ;

- Mme Marne Strazielle, chargée de campagne Technopolice.

Mercredi 15 mai 2024

Audition n° 6 - Table-ronde des associations d'élus locaux :

- M. Michel Sauvade, co-président de la commission numérique de l'Association des maires de France (AMF), maire de Marsac en Livradois ;

- M. Jacques Oberti, vice-président en charge du numérique à Intercommunalités de France, maire d'Ayguesvives ;

- M. Claude Riboulet, président de la commission Innovation, Numérique et Intelligence artificielle de l'Assemblée des départements de France (ADF) ;

- M. Jérôme Bernard, vice-président et membre de la Commission numérique de l'Association des maires ruraux de France (AMRF), maire d'Alissas.

Audition n° 7 - Centre d'études et d'expertise sur les risques, l'environnement, la mobilité et l'aménagement (CEREMA) :

- M. Pascal Berteaud, directeur général du CEREMA.

Mardi 28 mai 2024

Audition n° 8 :

- M. Fabien Aufrechter, maire de Verneuil-sur-Seine et Vice-Président chez Vivendi en charge de l'IA générative et web3.

Mercredi 29 mai 2024

Audition n° 9 - Think Tank cercle des acteurs territoriaux :

- M. Hugues Périnel, fondateur et animateur du cercle des acteurs territoriaux ;

- Mme Stéphanie Portier, directrice générale déléguée à la qualité des services à la population à la mairie et à la Métropole de Montpellier ;

- M. Yvonic Ramis, directeur général des services du conseil départemental de l'Allier.

Audition n° 10 - Commission nationale de l'informatique et des libertés (CNIL) :

- M. Bertrand Pailhes, directeur des technologies et de l'innovation à la Commission nationale de l'informatique et des libertés (CNIL).

Mercredi 10 juillet 2024

Audition n° 11 - Société de conseil CIVITEO :

- M. Jacques Priol, président-fondateur du cabinet CIVITEO et président de l'Observatoire Data Publica.

Audition n° 12 - Association Les Interconnectés :

- Mme Céline Colucci, déléguée générale de l'association Les Interconnectés.

Mercredi 16 octobre 2024

Audition n° 13 - Association Ekitia :

- M. Bertrand Monthubert, président de l'association Ekitia et co-auteur du rapport « Data et territoires ».

Audition n° 14 - Société Wintics :

- M. Matthias Houllier, co-fondateur de la société Wintics.

Audition n° 15 :

- M. Pascal Alix, avocat spécialisé en droit de l'intelligence artificielle.

Mercredi 23 octobre 2024

Audition n° 16 - Mairie et citoyens de Montpellier :

- M. Manu Reynaud, deuxième adjoint au maire, en charge de la ville apaisée, respirable et numérique, conseiller métropolitain en charge du numérique ;

- Mme Séverine Saint-Martin, adjointe au maire, en charge du renouveau démocratique ;

- Mme Anne Burdloff-Noyer, participante à la Convention citoyenne sur l'IA ;

- M. Fabrice Bourrier, participant à la Convention citoyenne sur l'IA.

Audition n° 17 - Communauté d'agglomération du Sicoval :

- M. Dominique Marty, conseiller communautaire délégué à la transformation numérique au sein de la Communauté d'agglomération du Sicoval.

Mercredi 30 octobre 2024

Audition n° 18 - l'Association nationale des directeurs et directeurs-adjoints des centres de gestion de la fonction publique territoriale (ANDCDG) :

- M. Olivier Ducrocq, président de l'ANDCDG ;

- Mme Valérie Bouvier, directrice générale des services du centre de gestion de Haute-Savoie (CDG74) ;

- Mme Patricia Le Saux, directrice générale adjointe du Centre interdépartemental de gestion (CIG) de la grande couronne de la région d'Île-de-France.

Audition n° 19 :

- M. Cyril Demoures, chef du service de l'analyse et du contrôle de gestion du conseil départemental de Seine-Saint-Denis.

Audition n° 20 :

- M. Nathanaël Duffit-Ménard, avocat et consultant en transformation des territoires et des organisations publiques.

Mercredi 30 octobre 2024

Audition n° 21 - société Microsoft France :

- M. Philippe Limantour, Chief Technology and Cybersecurity Officer de Microsoft France ;

- Mme Elvire Fran?ois, responsable des affaires publiques de Microsoft France.

Mercredi 27 novembre 2024

Audition n° 22 - société Mistral AI :

- Mme Audrey Herblin-Stoop, directrice des affaires publiques de Mistral AI ;

- M. Cyriaque Dubois, Public Affairs Associate de Mistral AI.

Audition n° 23 - Commune de Nîmes :

- Mme Pascale Venturini, adjointe déléguée à l'Environnement et à la Transition Écologique, aux Énergies Renouvelables et au Chauffage Urbain de la ville de Nîmes.

Mercredi 6 novembre 2024 

Audition n° 24 - Institut national de recherche en sciences et technologies du numérique (INRIA) :

- M. Serge Abiteboul, informaticien, chercheur à l'École Normale Supérieure (ENS) Paris et directeur de recherche émérite à l'Institut national de recherche en sciences et technologies du numérique (INRIA).

Mardi 10 décembre 2024

Audition n° 25 - Métropole de Nantes :

- M. Franckie Trichet, vice-président de la Métropole de Nantes, chargé de l'Innovation et du numérique.

Mercredi 11 décembre 2024

Audition n° 26 - Ministère de la Transition écologique et à la cohésion des territoires :

- Mme Amélie Coantic, directrice adjointe du Commissariat Général au Développement Durable (CGDD) ;

- M. Thomas Cottinet, responsable de l'Ecolab ;

- Mme Juliette Fropier, cheffe de projet intelligence artificielle au sein de l'Ecolab et du CGDD.

- ANNEXE 1 : TABLE RONDE PORTANT SUR LES PREMIÈRES APPLICATIONS DE L'INTELLIGENCE ARTIFICIELLE DANS L'UNIVERS DES COLLECTIVITÉS TERRITORIALES

15 février 2024 - Sceaux

Mme Françoise Gatel, présidente. - Pour nous aider à cheminer dans nos réflexions, nous comptons sur les lumières de nos participants, sur ce sujet de grand intérêt.

Je remercie de leur présence :

- Monsieur Khaled Belbachir, directeur des relations citoyennes de la ville de Plaisir, qui a mis en place un nouvel accueil usager en utilisant l'intelligence artificielle ;

- Monsieur Thomas Guenoux, fondateur de la société Yelda, qui a accompagné la ville de Plaisir dans sa démarche ;

- Monsieur Johan Catouilliard, directeur général adjoint sécurité civile, patrimoine bâti, systèmes d'information et moyens matériels de la ville de Noisy-le-Grand ;

- Monsieur Jean-Baptiste Roffini, cofondateur de la société Delibia, qui a pour projet de mettre l'intelligence artificielle au service des collectivités en contribuant à la sécurité juridique de leurs actes et en les aidant face à la lourdeur administrative ;

- Monsieur Hubert Castelnau, responsable des relations publiques de Delibia ;

- Monsieur Guillaume Gormand, chargé de mission prévention et sécurité pour Grenoble-Alpes Métropole, et auteur d'une thèse sur l'évaluation de la vidéosurveillance au sein des politiques publiques de prévention de la délinquance.

Je donne la parole à Monsieur Khaled Belbachir.

M. Khaled Belbachir, Directeur des relations citoyennes de la Ville de Plaisir. -  Je remercie Monsieur le Maire de Sceaux de nous accueillir.

Je suis directeur des relations citoyennes de la Ville de Plaisir depuis trois ans. Cette ville des Yvelines, de 32 000 habitants, souhaite proposer un accueil de qualité à ses usagers. Nous avons identifié la forte problématique que représente l'accueil téléphonique. En effet, l'accueil physique de nos collectivités territoriales est plutôt satisfaisant. Les difficultés rencontrées avec le téléphone ont des raisons diverses : flux d'appels en continu, moyens humains insuffisants au profit de l'accueil physique.

Nous avons ainsi constaté un taux de perte d'environ 60 % à 65 % sur les appels téléphoniques. Après avoir essayé diverses solutions, nous nous sommes tournés vers une solution plus innovante avec la société Yelda. Il s'agissait de mettre en place un robot qui prendrait les appels en premier niveau de réponse. Il n'était pas envisagé de remplacer nos standardistes - d'ailleurs, leur effectif est aujourd'hui maintenu - mais de les décharger des appels sans valeur
ajoutée : par exemple, les appels pour s'enquérir des horaires d'ouverture de la mairie, des documents requis pour un renouvellement de pièce d'identité, etc. Les collectivités rencontrent d'ailleurs de sérieuses problématiques de gestion de rendez-vous relatifs aux papiers d'identité ; c'est pourquoi nous avons concentré notre intervention sur cette thématique.

Nous avons par conséquent souhaité qualifier les demandes et apporter par le robot des réponses satisfaisantes. Pour ce faire, nous avons impliqué les habitants dès le commencement de nos travaux, sous la forme d'assemblées citoyennes. Ils ont choisi le nom du robot, Optimus ; ils ont contribué à entraîner le robot.

Le robot est en place depuis septembre 2022. Aujourd'hui, le taux de perte a chuté à 8 %. En réalité, le traitement des appels se répartit à parts égales entre le robot et les standardistes, qui le considèrent désormais comme un assistant. En outre, les appels traités par les standardistes prennent désormais plus de temps (de 1,5 à 1,8 fois plus longs). Cela signifie que les appels les plus rapides sont résolus par le robot. Il est également possible que les standardistes prennent désormais davantage de temps pour dialoguer avec leurs interlocuteurs, et veillent toujours à s'assurer que les usagers n'ont pas d'autres questionnements avant de raccrocher. En ce sens, l'emploi de ce robot est une véritable réussite.

Toutefois, le robot n'a pas été adopté par toute la population. Selon nos enquêtes, l'intelligence artificielle fait aujourd'hui peur même si les usagers obtiennent la réponse souhaitée. Il convient par conséquent de mener un travail de réassurance de la population, en lui expliquant que le robot n'a pas pour vocation de remplacer les agents mais de les aider.

Quoi qu'il en soit, le bilan de ces deux dernières années est très positif.

M. Thomas Guenoux, fondateur de la société Yelda. - Je souhaite aborder la manière dont l'intelligence artificielle transforme la relation entre les services et l'usager au sein des collectivités.

Depuis un an et demi et la forte poussée médiatique de ChatGPT, l'attention se focalise sur certaines techniques de l'intelligence artificielle, en particulier la technique conversationnelle. C'est pourquoi je vous propose que nous nous intéressions à la production de texte dans la relation avec l'usager. En effet, il existe en France un vrai sujet concernant la relation avec l'usager à distance. Ce sujet a été ravivé par la période de crise sanitaire qui a prouvé que le standard téléphonique avait encore de beaux jours devant lui, l'impossibilité de se déplacer faisant croître le nombre d'appels.

Chez Yelda, nous avons eu l'idée d'appliquer l'intelligence artificielle conversationnelle aux échanges téléphoniques. En effet, le chatbot développé depuis un certain temps sur les sites Internet a résolu une partie des problématiques sur les canaux numériques, alors que les difficultés subsistent pour le téléphone. Ce problème est partagé par la Poste, l'URSSAF ou l'Imprimerie nationale. Grâce à l'intelligence artificielle, nous avons pu automatiser une partie des questions posées par les usagers. Nous ne sommes plus à l'ère du répondeur qui nous demande de sélectionner un chiffre sur le clavier de notre téléphone ; nous répondons à de réelles questions en
situation. Ainsi, nous avons mis en place une première version avec la ville de Plaisir et travaillons désormais sur d'autres itérations plus évoluées grâce aux techniques d'intelligence artificielle générative qui sont encore plus avancées.

Au travers de cette application, nous avons identifié des opportunités et des défauts.

Parmi les opportunités, notons la totale disponibilité de ce robot, qui peut répondre à toute heure du jour et de la nuit, y compris le week-end. Il permet de gagner en rapidité et peut apporter tous les détails d'une démarche. Il peut analyser les sentiments et en fin de conversation le degré de satisfaction, en balayant toutes les conversations d'une période donnée de manière moins fastidieuse que ne le ferait un humain. Le robot peut également opérer un tri très intelligent des appels en fonction des demandes, évitant ainsi les « transferts sauvages ».

En revanche, il existe des défis : l'adaptation des usages, le respect de la vie privée, la souveraineté des données et les biais de l'intelligence
artificielle. Enfin, des défis techniques peuvent rendre l'entreprise complexe et coûteuse. C'est pourquoi nous avons décidé de proposer une solution simple et accessible pour les collectivités territoriales. Nous nous positionnons notamment auprès des villes, de l'Assemblée nationale ou encore de la Caisse nationale d'assurance vieillesse. Nous pensons que l'intelligence artificielle peut jouer un rôle très positif sur tous les sujets qui touchent à la relation avec l'usager.

Mme Françoise Gatel, présidente. - Merci. Au Sénat, nous cultivons la culture de l'évaluation ; c'est pourquoi nous nous proposons de tester votre solution dès maintenant.

Mme Pascale Gruny, rapporteur. - Pour ce test, je vous fais part de ma requête : mon voisin a déposé ses ordures devant mon domicile, ce qui me met très en colère.

Thomas Guenoux appelle à l'aide de son smartphone la mairie de Plaisir. Sa conversation téléphonique est diffusée dans la salle.

Optimus. - Pouvez-vous m'indiquer en quelques mots ou une phrase courte le motif de votre appel ?

M. Thomas Guenoux. - Mon voisin a déposé des déchets devant chez moi. C'est un dépôt sauvage. Je voudrais savoir ce que je dois faire, s'il vous
plaît. Je ne suis pas du tout content.

Optimus. - Vous pouvez déposer tout signalement ou demande concernant la gestion des déchets sur le site Internet de l'agglomération. Vous pouvez également être mis en relation avec un agent qui enregistrera votre demande si vous ne disposez pas d'un accès au site Internet.

Puis-je vous aider pour autre chose ?

M. Thomas Guenoux. - Je n'ai pas Internet.

Optimus. - Si vous rencontrez des difficultés pour effectuer des démarches en ligne et que vous avez besoin d'accompagnement, demandez à être mis en relation avec un agent.

Avez-vous d'autres questions ?

M. Thomas Guenoux. - Oui, je voudrais refaire mon passeport, s'il vous plaît.

Optimus. - Dans un premier temps, pouvez-vous m'indiquer pourquoi vous souhaitez refaire votre titre d'identité ? L'ancien titre est-il perdu, volé ou expiré ? Ou s'agit-il d'une première demande ?

M. Thomas Guenoux. - Il est expiré.

Optimus. - Pour refaire votre passeport, vous devez prendre directement rendez-vous sur l'espace citoyen de la ville. Vous pouvez consulter notre agenda et retenir un créneau à votre convenance suivant les disponibilités. Je viens de vous envoyer un SMS avec le lien vers la page en question.

Thomas Guenoux met fin à l'appel.

M. Thomas Guenoux. - J'ai effectivement reçu un SMS avec le lien vers l'espace citoyen.

M. Laurent Burgoa. - Qu'en est-il de la question du dépôt de déchets ?

M. Thomas Guenoux. - Pour cette question, Optimus s'est défaussé sur la communauté d'agglomération car ce sujet ne relève pas des prérogatives de la ville. Les options mises en place dépendent du mode de fonctionnement de cette collectivité : site Internet, accueil téléphonique, etc. Le robot n'invente rien ; il a été entraîné pour apporter la réponse qui correspond au service requis.

Dans l'exemple retenu, nous pourrions imaginer la création d'un ticket dans l'espace de réclamation de la communauté d'agglomération. Cela est techniquement possible.

M. Khaled Belbachir. - Nous avons fait un choix à la mairie de Plaisir. Les déchets ne sont pas de notre compétence ; c'est pourquoi nous nous défaussons dans un premier temps. Pour autant, nous proposons dans un deuxième temps un échange avec un agent, car nous avons considéré qu'il ne revenait pas au robot de traiter une telle question. En effet, pour les traitements par le robot, nous avons mis la priorité sur les titres d'identité ou les problématiques scolaires.

La suite logique d'une conversation avec une personne ne disposant pas d'Internet consiste en le transfert de l'appel vers notre standard. Le robot constitue un premier filtre.

Il convient de considérer qu'à l'heure où nous échangeons, 9 heures 30, les services de la mairie sont encore fermés. C'est pourquoi l'appel ne peut pas être transféré automatiquement.

M. Thomas Guenoux. - L'objectif d'un tel agent est de faire de la pédagogie et d'inciter les administrés à se mettre en relation avec les espaces citoyens en ligne, que les mairies investissent pour de nombreuses démarches. Pour ceux qui ne le peuvent pas ou ne le souhaitent pas, nous donnons à tout moment la possibilité de parler à un agent.

Si l'appel est adressé depuis un téléphone fixe, l'envoi de SMS est impossible. Le dispositif détecte cette situation et invite l'usager à se rendre sur le site. Les personnes concernées par une telle situation constituent de plus en plus une minorité relativement restreinte.

Mme Françoise Gatel, présidente. - Merci de vous être prêté à cet exercice qui n'était pas préparé.

Je passe désormais la parole à Monsieur Catouilliard. Votre intervention nous intéresse particulièrement car notre délégation s'intéresse à la cybersécurité et a pu constater que dans bon nombre de nos intercommunalités, la fonction sécurité informatique est peu portée politiquement.

M. Johan Catouilliard, Directeur général adjoint sécurité civile, patrimoine bâti, systèmes d'information et moyens matériels de la ville de Noisy-le-Grand. - Mon intervention est plutôt orientée sur les choix de l'intelligence artificielle à Noisy-le-Grand. Pour autant, je répondrai volontiers à vos questions en matière de cybersécurité.

Noisy-le-Grand, qui compte 60 000 habitants, est la ville-porte de la ville nouvelle de Marne-la-Vallée. Cette ville connaît une forte transformation. En effet, ce pôle tertiaire important des années 1980 et 1990 peine aujourd'hui à conserver sa position de leader. C'est pourquoi nous souhaitons la redynamiser par une approche multicanal. Nous nous adressons tant à l'administration, pour améliorer sa qualité de service, qu'à la population pour lui offrir de nouveaux services ; mais également au tissu économique pour apporter un regain d'attractivité au pôle tertiaire.

Ainsi, Noisy-le-Grand s'est inscrite dans de nombreuses démarches, dont le projet Récital pour lequel nous étions lauréats du Démonstrateur d'intelligence artificielle des territoires (DIAT) porté par le ministère de l'Écologie.

Le projet Récital se réfère au décret Tertiaire et donne la mesure de l'impact, pour la ville, de l'investissement requis par ce décret. Ce dernier demande en effet la mise à niveau énergétique de l'ensemble du patrimoine des acteurs publics et privés. S'agissant du secteur public, nous avons audité la totalité de notre patrimoine, soit 220 000 mètres carrés. Les diagnostics techniques ont conclu à un investissement de 80 millions d'euros pour répondre à l'objectif d'une diminution de 40 % de consommation énergétique. Ce montant correspond à 40 ans de capacité d'investissement sur la rénovation thermique et énergétique. Ni les capacités de la ville ni les délais imposés par le décret ne sont compatibles avec un tel niveau d'investissement. C'est pourquoi nous avons décidé de mener autrement notre réflexion.

Le premier constat est que le diagnostic énergétique ne prend en compte que les aspects techniques sans inclure les usages, dont l'évolution peut pourtant apporter un véritable gain. Or il est complexe d'infléchir les usages sur notre patrimoine composé à 50 % d'écoles qui ne sont pas occupées par des agents municipaux mais mises à disposition.

Dans ce contexte, le projet Récital a deux objectifs :

- d'une part, il nous faut comprendre les comportements réels des utilisateurs, afin de réduire les consommations excessives. Par souci de sobriété, nous avons recours à l'intelligence artificielle. En effet, elle nous permet d'instrumenter 90 bâtiments, les plus importants consommateurs d'énergie, pour définir des lois d'usage appliquées aux 200 bâtiments de notre patrimoine. De manière réaliste, nous espérons atteindre en deux ans un gain de 20 % ;

- d'autre part, nous souhaitons réinterroger les 80 millions d'euros d'investissement identifiés par les diagnostics techniques, pour prioriser les investissements qui apportent réellement les meilleurs gains. Ainsi, nous réduirons le budget d'investissement nécessaire à un montant plus raisonnable de 20 à 30 millions d'euros à l'horizon 2030. Ce deuxième sujet n'aurait pas pu être traité sans intelligence artificielle, car le nombre de combinaisons possibles - sur la base de cinq scénarios par bâtiment - est trop grand pour être exploré en une vie. En outre, la contrainte budgétaire s'impose : les dépenses doivent être financièrement supportables par la ville. Il convient également de bien cibler les objectifs de réduction de consommation énergétique et d'émission de CO2. Enfin, les usages réels des bâtiments doivent être intégrés à la réflexion.

Ce travail a abouti à un appel à projets. Le lauréat désigné à la fin de l'été 2023 est un groupement de prestataires privés, Datanumia, Citégestion, Efficacity et Eridanis. Leurs premières réponses seront apportées durant le premier semestre 2024, pour de premières actions durant l'année 2024. Une économie d'énergie de 20 % est prévue pour 2026, date de renouvellement d'un contrat-cadre de gestion d'exploitation du parc de chaufferie. Ce contrat sera alors transformé en marché global de performance énergétique, sur la base des recommandations issues de Récital.

Voici par ailleurs une liste d'actions retenues par la ville de Noisy-le-Grand et qui mobilisent l'intelligence artificielle :

- le traitement des corbeilles de rue, pour optimiser le travail des agents en vue d'une augmentation du niveau de satisfaction des habitants ;

- une meilleure prospective démographique pour mieux appréhender le besoin en équipements publics, au vu du dynamisme de la ville en termes de scolarité, afin d'évaluer au plus juste les investissements dans ce domaine, dans la problématique très particulière des villes-étapes de la région parisienne ;

- l'adaptation des feux tricolores, pour une meilleure régulation des flux ;

- l'amélioration des réponses apportées aux usagers de la ville par le recours à l'intelligence artificielle générative sur les sujets de l'accueil, du PLU et, en interne, les réponses juridiques, en particulier sur la jurisprudence.

L'intelligence artificielle est considérée comme un nouvel outil et n'a pas vocation à remplacer tous les dispositifs en place. C'est pourquoi l'approche par l'intelligence artificielle ne sera pas systématisée mais sera mobilisée sur les sujets pour lesquels elle semble pertinente. Il convient de rester soucieux de la frugalité des usages mobilisant l'intelligence artificielle. En effet, cette dernière peut mobiliser de très nombreuses données et déborder un caractère raisonnable de l'action numérique, reconstituant les émissions de gaz à effet de serre là même où nous souhaitons les réduire.

Par ailleurs, l'intelligence artificielle est un outil nécessaire pour assurer la transition écologique.

Quant au choix des plateformes d'intelligence artificielle utilisées pour les projets, il doit être soucieux de la souveraineté des solutions et de la question des droits adossés aux serveurs choisis. Le cadrage réglementaire européen est à ce sujet relativement contraignant.

Enfin, l'intelligence artificielle a ses propres limites. Elle se nourrit de nos comportements et peut par conséquent générer des réponses fausses. C'est pourquoi l'intelligence artificielle n'est pas positionnée pour l'heure en lien direct avec les usagers ; toute démarche est validée par une intervention des services.

Mme Françoise Gatel, présidente. - Merci Monsieur Catouilliard.

Je cède maintenant la parole aux représentants de la société
Delibia. Votre proposition de service aux collectivités vise à les aider à sortir d'une complexité juridique et d'une lourdeur administrative que nous ne connaissons que trop bien.

M. Jean-Baptiste Roffini, co-fondateur de Delibia. - J'ai travaillé en collectivité territoriale en qualité de chef de projet dans le cadre de plusieurs politiques publiques. J'ai été souvent conduit à consulter ce qui avait été réalisé dans d'autres territoires, pour comparer les pratiques, m'en inspirer ou au contraire m'en différencier, parfois pour lever des doutes techniques, juridiques, stratégiques ou politiques. Mes recherches dans les nombreuses délibérations étaient toujours très fastidieuses. C'est pourquoi nous avons eu l'idée de rassembler ces délibérations sur une seule plateforme et de lui appliquer un moteur de recherche performant avec une intelligence artificielle qui permet aux agents une analyse et une rédaction plus rapides. Nous avons partagé cette idée avec un certain nombre de collectivités rassemblées au sein d'un consortium. Ainsi, leurs agents ont pu tester notre solution rassemblant trois fonctionnalités principales.

En premier lieu, un moteur de recherche peut remonter un ensemble de délibérations en répondant à plusieurs requêtes (en relation avec une politique publique, une association, un type de projet, etc.). La remontée des réponses peut être filtrée (par exemple, selon une typologie de collectivités) pour sélectionner les délibérations les plus pertinentes. Cette sélection conduit parfois les agents à contacter leurs homologues des communes qui ont émis ces délibérations pour recueillir de plus amples informations sur leur cas précis. L'intelligence artificielle est d'ores et déjà convoquée pour générer plusieurs tendances ou enjeux à partir d'une thématique donnée, afin de former une introduction au sujet recherché. La recherche donne alors accès aux délibérations et le cas échéant à ses annexes ; les résultats peuvent alors être affinés selon les intentions de recherche plus particulières, juridiques, techniques ou politiques. Il s'agit là d'une première approche classique qui s'apparente à un moteur de recherche plus pointu qu'un moteur de recherche grand public.

La deuxième approche est basée sur l'intelligence artificielle générative, avec un assistant, nommé Solyne, à qui nous pouvons confier certaines tâches, telle que la recherche d'une information précise. Son lien avec la base de données des délibérations nous permet d'en vérifier la véracité dans les sources mêmes. Il est également possible de l'interroger sur des sujets - par exemple, sur l'utilisation de l'intelligence artificielle dans les politiques publiques de la ville de Montpellier -, sur lesquels il nous apportera une réponse plus ou moins synthétisée. L'avantage est de travailler sur une base de données fermée des documents issus de 4 000 collectivités référencées (totalisant 1 600 000 actes et 600 000 annexes).

La troisième approche issue de l'analyse de l'assistance par les agents eux-mêmes est la mise en place d'outils d'assistance rédactionnelle permettant à toutes les catégories d'agents (A, B ou C) de générer une note sur un sujet donné, tout en citant ses sources. Il est également possible de résumer les différents documents à disposition. Cet outil permet aussi une mise en forme de notes de réunion et de courriels. Le résultat de cet assistant n'étant qu'une ébauche, nous mettons à disposition un éditeur de document pour une meilleure mise en forme ou une reformulation pour faire gagner du temps aux agents au quotidien. Les retours des données d'utilisation peuvent utilement alimenter les débats au sujet de l'intelligence artificielle dans les collectivités territoriales.

Mme Françoise Gatel, présidente. - C'est très impressionnant.

Nous avons voté récemment un texte concernant les secrétaires généraux de mairie, dont le travail parfois ramassé en termes de temps doit pour autant garantir la complexité juridique de certains écrits. Votre outil représente un atout incontestable pour leur nécessaire travail de recherche de délibérations existantes en vue d'une complète sécurité juridique.

Je cède désormais la parole à Monsieur Gormand.

M. Guillaume Gormand, Chargé de mission prévention et sécurité pour Grenoble-Alpes Métropole et auteur d'une thèse sur l'évaluation de la vidéosurveillance au sein des politiques publiques de prévention de la délinquance. - Contrairement aux autres intervenants, je ne suis pas un expert des questions d'intelligence artificielle. En revanche, je travaille dans le champ de la criminologie depuis plus d'une dizaine d'années, d'une part dans un cadre académique et d'autre part dans le cadre professionnel.

J'ai bien noté, Madame la Présidente, l'importance que vous disiez accorder à l'évaluation des politiques publiques, qui est au coeur de mes recherches, même si je me suis concentré sur la criminologie, et plus particulièrement sur la vidéosurveillance. Je partage avec vous l'importance de fonder les politiques publiques sur une évaluation rigoureuse et indépendante, sur le long terme, pour identifier ce qui fonctionne et ce qui ne fonctionne
pas. Cela nous permet de fonder de manière pérenne une politique publique
- notamment en matière de sécurité - et d'identifier la plus-value potentielle de la prise en compte des nouvelles technologies dans cette même politique.

Pour prendre un exemple concret des atouts de l'évaluation, je vais vous relater brièvement l'action menée à Grenoble. En 2021, j'ai été invité à diriger une étude en collaboration avec la gendarmerie nationale sur le sujet spécifique de l'identification de la plus-value de la vidéosurveillance sur les enquêtes judiciaires. Les résultats n'étaient pas aussi élevés que nous aurions pu le souhaiter, car les enquêteurs rencontraient de réelles difficultés à identifier les caméras utiles à leur enquête, à en déterminer le propriétaire et à en apprécier les possibilités de réquisition. Nous avons lancé en 2022 un projet de cartographie des caméras sur le territoire de Grenoble-Alpes Métropole. Nous avons alors créé une plateforme sécurisée, accessible à tous les enquêteurs de police judiciaire par un compte personnel leur permettant de repérer la caméra qui les intéresse et de transmettre au propriétaire une réquisition pour une plage horaire précise, leur faisant gagner un temps précieux de quelques heures à quelques jours de
travail. L'intelligence artificielle n'est jusqu'ici nullement mobilisée. En revanche, une forte ingénierie a été requise pour l'identification du besoin et la création de la solution. Certes, les caméras sont développées depuis trente ans dans nos rues ; et leur technologie a fortement évoluée. Pour autant, aucune ingénierie n'a été développée pour intégrer cet outil dans les pratiques professionnelles de la chaîne de sécurité.

Il est légitime de s'interroger sur la pertinence d'utiliser l'intelligence artificielle en vidéosurveillance. Il existe certes des besoins d'automatisation dans l'exploitation, du fait de tâches complexes ou rébarbatives à mener par un opérateur, telles la recherche d'une personne dans une foule ou l'identification d'accès à des zones non autorisées. Néanmoins, il convient d'être rigoureux quant à l'emploi de l'intelligence artificielle car nous devons au préalable en identifier les biais potentiels. Par exemple, la technologie peut se tromper sur un diagnostic d'absence d'un individu dans un lieu, en se basant sur la reconnaissance faciale ; toute technologie est faillible. Par conséquent, il convient de mesurer l'impact d'un tel biais sur l'organisation des forces de sécurité.

En conclusion, l'exploitation automatisée est possible, mais dans un usage progressif et parcimonieux d'un outil qui peut aider les opérateurs mais ne peut pas les remplacer. Enfin, l'évaluation est nécessaire.

Mme Françoise Gatel, présidente. - Toutes vos interventions suscitent un certain nombre de questions de mes collègues.

Mme Pascale Gruny, rapporteur. - Nous avons eu un débat sur l'intelligence artificielle au Sénat, et ce débat donnait un peu le vertige : nos collègues ont soulevé de nombreuses questions dans des domaines très
divers. Mon premier sentiment a été la peur.

Par la suite, j'ai rédigé un rapport au sein de la commission des affaires européennes sur le véhicule sans chauffeur. La question majeure qui est apparue est celle soulevée par la situation suivante : la voiture roule le long d'un ravin et un enfant traverse la chaussée. Quel est le comportement choisi par la voiture ?

Les possibilités de l'intelligence artificielle sont impressionnantes. Mais cette technologie reste un outil. Nous devons veiller qu'elle ne dépasse pas l'humain et que nous conservions une vigilance humaine.

Dans les différentes propositions que vous nous avez présentées, quelle est la protection requise ? Avez-vous mis en place une assurance particulière ? Comment vous protégez-vous des fake news, des attaques extérieures ?

Pouvez-vous nous donner une idée des coûts associés à une telle technologie, notamment en maintenance ?

Enfin, à ce jour, quelles sont les limites de l'intelligence artificielle ?

Mme Ghislaine Senée, rapporteure. - Ce sujet est passionnant et je vous remercie de me donner la possibilité d'en être co-rapporteure.

Beaucoup de questions se posent. Nous identifions de très nombreux besoins, notamment dans les collectivités locales. J'ai pu moi-même constater les sollicitations dont faisait l'objet l'agent d'accueil d'une petite commune qui laissait son téléphone sonner pour pouvoir avoir le temps de renseigner les personnes se présentant physiquement à lui. Nous comprenons bien dans ces conditions la nécessité d'un tel outil dans la gestion de l'accueil et dans la relation à l'usager. À cet égard, les chiffres avancés par Khaled Belbachir sont éloquents.

J'aurais toutefois quelques interrogations.

Pourquoi vouloir à tout prix humaniser l'outil et ne pas se contenter d'une assistance informatique ? En effet, pour ma part, je ne conçois pas de devoir parler à un agent qui n'est pas humain. En revanche, tout le monde peut comprendre la nécessité d'obtenir une réponse et - si elle s'avère insatisfaisante - de pouvoir parler à une personne.

En outre, quel est le temps requis pour rendre un tel outil opérationnel ?

Par ailleurs, comment évaluer le taux de défiance ? Et comment pouvons-nous agir pour corriger une telle situation ?

Quant à la question de l'évaluation de la politique publique, elle est très importante. Nous devons également penser que nous pourrions être évalués par de tels systèmes, sur la qualité de notre mandat et notre apport aux services publics. Nous devons par conséquent poser des limites pour trouver une forme d'équilibre pour avancer sur le service et l'optimisation, afin d'atteindre nos objectifs avec les seuls moyens alloués. Il est intéressant d'apprécier la multitude des scénarios, sans jamais pouvoir anticiper ce qui fait la force de notre humanité. Par conséquent, à quel moment devons-nous faire évoluer les modèles de décision et d'aléas qui s'opèrent ?

M. Jean-Jacques Michau. - Merci de m'avoir invité à prendre part aux travaux de votre délégation.

La délégation à la prospective travaille depuis quelques semaines sur le vaste sujet de l'intelligence artificielle. Nous aborderons ses relations avec la santé, l'éducation et la proximité. Par conséquent, nous traiterons de ses liens avec les collectivités. C'est pourquoi je suis avec vous ce matin.

En dehors des sujets que nos intervenants ont présentés, quels sont ceux que nous pourrions explorer dans le domaine de l'intelligence artificielle et de la proximité ?

M. Khaled Belbachir. - Je souhaiterais répondre à vos interrogations sur la relation client.

Nos collectivités sont considérées comme les derniers lieux d'accueil accessibles. Nous travaillons sur la question de la défiance. Aujourd'hui, nos enquêtes nous révèlent que 50 % des administrés ne se disent pas totalement satisfaits, ce qui reste un chiffre trop élevé. Nous explorons désormais nos marges de manoeuvre.

S'agissant de l'humanisation du robot, nous veillons à ne pas tromper l'usager. C'est pourquoi le message d'accueil est explicite. En outre, nous avons développé toute une communication autour du lancement de cet outil.

Quant au temps de déploiement, il a été extrêmement rapide. En effet, le travail porte avant tout sur la base de données. Le risque essentiel était celui de perdre des personnes, mais il n'est pas majeur. Le risque de délivrer une réponse fausse n'existe, quant à lui, pratiquement pas, puisque l'outil s'appuie uniquement sur notre base de données fiabilisée. Cette dernière a été constituée par nos soins en trois mois. Par conséquent, le seul risque d'erreur proviendrait de la mauvaise compréhension de la question. C'est pourquoi, après un bilan établi en novembre 2023, nous avons entamé un travail d'évaluation et d'amélioration de l'outil. Nous avons également dû traiter des cas de « fausse route ». En outre, le déploiement d'Optimus a été progressif, d'abord auprès des membres de l'assemblée citoyenne, avant d'être rendu accessible à l'ensemble du public. De même, nous l'avons expérimenté sur des tranches horaires restreintes - d'une heure, puis de deux heures, de trois heures, etc. -, avant une ouverture totale en trois mois.

En conclusion, je dirais que l'expérimentation est la clé de la réussite en intelligence artificielle.

Mme Françoise Gatel, présidente. - J'oserais une remarque personnelle : si nous faisions la loi avec ce souci d'expérimentation préalable, ce serait plus satisfaisant.

M. Thomas Guenoux. - Aujourd'hui, le déploiement de notre solution sur une dizaine de mairies prendrait de six à dix semaines.

Le sujet du ridicule dans la conversation avec un robot me semble relever de la question de génération. Les jeunes n'ont aucun problème avec une telle pratique.

S'agissant des risques présents dans les réponses, j'estime qu'il existe une tendance à surévaluer la qualité de la réponse humaine, alors que les humains sont faillibles. Nos agents virtuels sont paramétrés pour être empathiques et le sont parfois plus que les humains. En effet, ces derniers peuvent ressentir de la fatigue et devenir irascibles ; ce qui n'arrivera jamais à un robot.

Par ailleurs, nous avons pris l'habitude depuis plusieurs années de considérer que nos ordinateurs sont plus forts que nous, dans de nombreux domaines. Cette situation est inédite pour l'humanité. Il est par conséquent normal qu'elle génère de la peur. Pour autant, nous allons vivre avec des ordinateurs dont nous ne comprendrons pas tous les choix. Personnellement, j'ai décidé de vivre avec cela.

Enfin, parmi les autres parties de l'intelligence artificielle à surveiller, je pense que la génération d'images et de vidéos est un sujet très important, car nous ne ferons bientôt plus la différence entre une image captée dans la réalité et une image générée par intelligence artificielle.

Mme Françoise Gatel, présidente. - La différence entre un robot et nous est que nous souhaitons conserver notre libre arbitre.

M. Jean-Baptiste Roffini. - La peur s'exprime à deux niveaux, individuel et managérial, au sein des collectivités. La peur individuelle est celle d'un remplacement par l'intelligence artificielle ; celle du manager est celle de la gestion des ressources, une fois l'emploi de l'intelligence artificielle adopté. Ces deux peurs peuvent être levées aisément par l'utilisation de l'intelligence artificielle qui démystifie très rapidement cette technologie, qui présente comme toutes les autres des défauts et des limites. D'un point de vue managérial, il convient de s'interroger sur la généralisation de l'emploi de l'intelligence artificielle à l'ensemble du personnel ou au contraire son autorisation à un groupe plus restreint. Généralement, le déploiement se fait par palier, avec un premier emploi de façon restreinte avant une ouverture à tous. La peur est liée à l'inconnu. Mais l'usage de l'outil révèle ses apports indéniables d'assistance et de rapidité.

Pour répondre à la question de Monsieur Michau au sujet des autres champs à explorer, nous souhaitons pour notre part inclure à notre base de données les rapports du Sénat et les questions au gouvernement pour les rendre accessibles, notamment aux DGA, afin de leur apporter davantage de hauteur de vue dans leurs décisions. Ce serait d'une grande aide pour les collectivités territoriales et particulièrement pour les petites communes de moins de 3 500 habitants, dont nous avons décidé d'être solidaires en leur offrant Delibia.

M. Guillaume Gormand. - Quand nous évoquons l'évaluation, cela ne concerne pas que la technologie mais également son intégration dans la chaîne des politiques publiques. Et je partage parfaitement les craintes soulevées par Madame Gruny.

Je voudrais illustrer mon propos par un exemple. J'ai en effet remarqué, dans le cadre de mes travaux de thèse, le fort taux de confiance accordé par les policiers nationaux travaillant en centre de commandement aux opérateurs de vidéosurveillance, qui sont de fait de très bons professionnels. À l'occasion d'appels pour des faits de faible à moyenne intensité, les policiers appelaient ces opérateurs pour vérifier la véracité des faits rapportés. Cette dernière était remise en question quand les opérateurs ne trouvaient pas trace du fait sur les bandes enregistrées des caméras. Or la vidéosurveillance peut être mise en échec par de nombreux facteurs (champ visuel tronqué, imprécision de la localisation,
etc.). Mais le taux de confiance était si élevé, qu'il avait un impact sur la gestion des questions de sécurité. En effet, cette dernière requiert l'intervention sur le terrain d'humains qui portent assistance à d'autres humains. Si l'intelligence artificielle était utilisée demain à la place de ces opérateurs avec une notion d'infaillibilité, des biais pourraient exister qui auraient un impact considérable sur les questions de sécurité publique. Dans ces conditions, l'évaluation est primordiale pour une intégration convenable de l'intelligence artificielle.

M. Pierre Ouzoulias. - Je remercie Monsieur le Maire de Sceaux de son accueil et me réjouis de l'intelligence qui règne dans ces débats.

Je remarque par ailleurs que l'intelligence artificielle est exclusivement représentée aujourd'hui par des hommes.

Je voudrais revenir sur le sujet de l'aide apportée par l'intelligence artificielle dans la rédaction des comptes rendus de séance. Le Sénat a lancé un travail sur la complexité de ce sujet qui doit prendre en compte la manière de faire intervenir l'intelligence des agents dans la rédaction de comptes
rendus. J'apprécie particulièrement dans votre proposition le fait de travailler sur une base de données fermée, qui garantit la fiabilité des éléments produits. Il convient toutefois de penser les comptes rendus en fonction de la manière dont ils seront exploités dans le débat public, ce qui modifie en profondeur l'exercice du compte rendu. Il serait pertinent que le Sénat fasse profiter les collectivités de ses réflexions et de ses avancées.

Mme Sonia De La Provôté. - L'arrivée de l'intelligence artificielle signifie l'immixtion du secteur privé dans les politiques publiques et dans la maîtrise des élus. Cette immixtion est si massive qu'elle devient un élément majeur d'influence d'une part de l'évolution des politiques publiques et d'autre part de l'évolution de l'usager et de sa relation avec le service public. En effet, l'usager se voit rendre un service mais il rend lui-même un service puisqu'il nourrit l'intelligence artificielle. Cet état de fait modifie singulièrement l'évolution de nos services publics.

Au-delà de la question des peurs générées par l'intelligence artificielle, menez-vous une réflexion sur ce sujet, car certes l'intelligence artificielle est un outil mais un outil d'influence. L'inconscient collectif sera en effet radicalement modifié dans les années à venir, avec l'emploi de l'intelligence artificielle.

M. Laurent Somon. - Je vous ferai en guise d'introduction deux remarques :

- R2D2 ne me fait pas peur, il est sympathique ;

-   l'accueil en période de pandémie de Covid a montré l'intérêt de maintenir la relation humaine et de donner des réponses pertinentes.

Voici mes questions :

- sur l'urbanisme, sur le sujet du PLUI, envisagez-vous de générer des pré-instructions, pour apporter rapidement des réponses pertinentes au pétitionnaire dès le dépôt du dossier ?

- s'agissant de notre exemple de troubles du voisinage, l'appel étant réalisé en dehors des heures d'ouverture de l'accueil, l'usager est amené à renouveler sa démarche. Devra-t-il refaire tout le cycle de la démarche ?

- avez-vous mené des analyses sur des consultations citoyennes ? En effet, le Grand Débat national n'a pas été probant à ce titre ;

- l'arrivée de l'intelligence artificielle annonce-t-elle la disparition des centres d'appel ? En effet, de nombreuses collectivités ont beaucoup investi dans ce domaine ;

- serez-vous en capacité d'analyser la fiabilité des données, en particulier des films et des documents proposés au public ?

Mme Isabelle Florennes. - Quel est l'ordre de grandeur d'un investissement initial pour les collectivités, sachant que leurs finances sont très limitées ?

Quelle stratégie recommandez-vous pour les petites communes ?

M. Johan Catouilliard. - Je vais tâcher de vous apporter une réponse globale.

Tout d'abord, l'intelligence artificielle n'est pas un outil qui constitue un tout. C'est l'aboutissement d'un cheminement de la collectivité, qui nécessite une acculturation des services et du personnel à différents sujets, de la gestion de la donnée à l'intelligence artificielle. Si ce sujet est abordé comme un tout, le risque est grand de la perte de sens, de la perte de la qualité de la réponse, voire de la perte de la maîtrise de la réponse. C'est pourquoi il y a une nécessité d'être dans une culture globale des services publics. Il conviendra par conséquent de faire évoluer les agents et leurs profils. Par exemple, un instructeur urbaniste devra développer ses connaissances informatiques pour maîtriser l'outil, afin de ne pas l'utiliser comme un oracle, qui donne une réponse à laquelle il se conforme aveuglément. Ce risque sera évité par un accompagnement adapté des agents.

S'agissant des coûts, je ne pourrai pas isoler l'intelligence artificielle du reste du projet. Au global, Récital est un projet de l'ordre de 2 millions d'euros. L'intelligence artificielle n'en représente qu'une partie.

M. Thomas Guenoux. - S'agissant de l'immixtion du secteur privé dans le public, je n'ai pas de réponse à vous apporter. Je reconnais que je n'ai pas mené une telle réflexion.

Par ailleurs, l'intelligence artificielle adapte sa réponse quand elle est sollicitée en dehors des horaires d'ouverture des services. Par conséquent, si l'usager renouvelle son appel à une autre période de la journée, ce ne sera pas forcément le même parcours qui lui sera proposé. En outre, certaines organisations proposent des prises de rendez-vous téléphoniques pour qu'un agent rappelle l'usager aux heures d'ouverture du service.

Pour notre solution, le budget annuel est de l'ordre de 10 000 euros par an. Il dépend cependant du volume d'appel.

Sur la question des centres d'appel, j'estime qu'à court terme, l'arrivée de l'intelligence artificielle n'implique pas un remplacement mais un changement d'emploi. À ce sujet, les agents d'accueil de Plaisir répondent toujours au téléphone mais interagissent également avec leur assistant virtuel pour l'entraîner et l'améliorer. En revanche, à l'horizon de dix ans, nous assisterons à une restructuration complète de certains pans de l'économie en raison du développement de l'intelligence artificielle. Les centres d'appel seront concernés. À cet égard, la France sera impactée, mais dans une moindre mesure par rapport à l'Inde, Madagascar ou l'île Maurice.

M. Hubert Castelnau, responsable des relations publiques de Delibia. - Chez Delibia, nous avons fait le choix de mettre à disposition l'intelligence artificielle pour les petites communes, pour une question de solidarité territoriale. Nous avions déjà constaté que la prise en main de l'Internet dans ces communes avait été plus complexe. L'arrivée de l'intelligence artificielle s'annonce de façon très prochaine et rapide.

C'est pourquoi nous ne pouvons pas nous permettre de perdre cinq ou dix ans pour former les secrétaires de mairie à ce sujet. Nous avons donc modulé nos prix :

- à partir de 3 000 euros par ans pour une commune de 3 500 habitants et plus, avec un service accessible à tous les agents et les élus ;

- aux alentours de 8 000 euros pour une ville de la taille de Sceaux ;

- de 30 000 euros à 50 000 euros pour une région selon sa taille.

M. Johan Catouilliard. - Le sujet de l'urbanisme constitue pour nous un axe de travail, car nous ne disposons pas à ce jour d'outil à proprement
parler. En revanche, nous concevons que l'intelligence artificielle pourrait aider l'instructeur dans ses premiers éléments de réponse. De notre point de vue, un tel apport n'aura pas valeur de décision mais pourra avantageusement préparer le travail.

Mme Françoise Gatel, présidente. - Je vous remercie très sincèrement de votre participation à cette table ronde et des réponses apportées à nos questionnements. Ce sujet est très riche pour nous tous. N'hésitez pas à nous adresser vos contributions, d'autant que nous avons dû écourter certains échanges par manque de temps.

ANNEXE 2 : TABLE RONDE PORTANT SUR L'ACCOMPAGNEMENT DES COLLECTIVITÉS TERRITORIALES FACE AUX RISQUES DU NUMÉRIQUE

15 février 2024 - Sceaux

Mme Françoise Gatel, présidente. - Cette deuxième table ronde traite de l'accompagnement des collectivités territoriales face aux risques du numérique. Nous sommes naturellement ici pour parler de l'aspect « pratique », à savoir des usages et des recommandations. Il s'agit d'un travail que nous débutons et les collègues n'ont pas manqué de rappeler le sens, la place et la valeur ajoutée de l'intelligence artificielle dans les services et les fonctions des collectivités. Il existe certes une approche philosophique, ou du moins déontologique, qui peut être propre à chacun et dont nous ne manquerons pas de parler, mais nous avons souhaité aujourd'hui aborder le sujet d'une manière extrêmement pragmatique.

Je vous remercie tous d'être présents ce jour. Monsieur Philippe Laurent, Maire de Sceaux, nous fait l'honneur de participer activement à cette table ronde.

Monsieur Richard Buisset, vous êtes le Directeur général du Syndicat interdépartemental pour l'assainissement de l'agglomération parisienne (SIAAP).

Général Degez, vous représentez l'Agence nationale de la sécurité des systèmes d'information (ANSSI) en tant que Chef de la division coordination territoriale de cette agence.

Le sujet est extrêmement important, car nous parlons fréquemment des attaques de collectivités, d'hôpitaux, etc., mais nous savons aujourd'hui que des attaques sur des stations de production et de distribution d'eau potable ou d'assainissement constituent des menaces absolument conséquentes et qui peuvent être effrayantes. Je suis heureuse que nous puissions parler de ce sujet.

Nous avons eu l'occasion déjà de travailler en coopération avec l'ANSSI, car la délégation a élaboré un rapport sur la cybersécurité. Vous êtes accompagné de Monsieur Guillaume Crépin, Délégué régional de l'ANSSI pour l'Île-de-France, et de Monsieur Gilles Pirman, Chargé de mission stratégie des territoires. Enfin, Monsieur Achille Lerpinière, vous intervenez au nom de la région Île-de-France dont vous êtes le Directeur des systèmes d'information (DSI).

Quand nous avons travaillé sur la cybersécurité dans les collectivités, nous nous sommes rendus compte du degré d'indifférence de nombreuses collectivités sur le sujet et du fait que certaines collectivités et certains élus pensaient que, dans la mesure où ils avaient un responsable des systèmes d'information, rien ne pouvait leur arriver. Or, il est nécessaire d'avoir un portage politique extrêmement fort sur ce sujet.

Monsieur Laurent, vous avez la parole.

M. Philippe Laurent. - Merci Madame la Présidente et bienvenue à toutes et à tous.

Je voudrais apporter le témoignage de ma ville de 20 000 habitants qui est confrontée à la situation que chacun connaît, sous le contrôle de
Monsieur Sébastien Zumbo, notre chef du service des systèmes d'information, lequel est à la fois passionné et inquiet de ces questions. Monsieur Sébastien Zumbo nous a ainsi convaincus de la nécessité de mettre en place un plan d'action ambitieux sur la question de la sécurité informatique et de la lutte contre les cyberattaques. Ce plan d'action repose sur trois grands piliers : la sensibilisation et la formation des agents, ce travail devant être relancé en permanence, car le nombre d'attaques est de plus en plus important et les attaques sont de plus en plus subtiles ; l'augmentation du niveau de sécurité des accès aux systèmes d'information, ce qui passe par un certain nombre de techniques (double authentification, logiciels agréés ANSSI, audits de sécurité réguliers, refonte du réseau informatique) ; l'établissement du plan de continuité informatique avec des sauvegardes sur des sites différents et tout un ensemble de processus qui ont nécessité la mise en place d'un budget important. En 2020, le budget consacré à la sécurité informatique s'est élevé à environ 30 000 euros. En 2024, ce budget est évalué à 165 000 euros, soit un peu moins d'un point d'impôt pour une ville comme Sceaux, ce qui représente une somme très importante. Cela devient donc un vrai enjeu, y compris pour des collectivités de taille moyenne comme la nôtre.

Mme Françoise Gatel, présidente. - Vous avez dit à juste titre qu'il était nécessaire de sensibiliser les agents de la mairie et les collaborateurs, mais il est également nécessaire de sensibiliser et de former les élus, notamment ceux des petites communes dans lesquelles le risque est peut-être moins spontanément perçu. Merci beaucoup. Je passe la parole à Monsieur Buisset. J'attire l'attention sur le fait que le sujet que nous abordons est important et que, compte tenu des risques qui l'entourent, nous devons être extrêmement prudents, discrets et réservés. Il est dès lors impératif de préserver la confidentialité de certaines questions sensibles pouvant être abordées par Monsieur Buisset.

M. Richard Buisset, Directeur général du Syndicat interdépartemental pour l'assainissement de l'agglomération parisienne (SIAAP). - Le SIAAP concerne 9 millions d'usagers. Il s'occupe du transport des eaux usées et de leur assainissement, ainsi que des stations d'épuration. Le SIAAP fait face à des enjeux importants, notamment avec la perspective des Jeux olympiques. Il s'agit d'un contexte dans lequel les menaces de cyberattaques sont croissantes. Le SIAAP gère 6 stations d'épuration, emploie 1 800 agents et dépense annuellement 1 milliard d'euros en fonctionnement et en investissement. Nous disposons d'une régie informatique et nous exploitons nous-mêmes nos stations d'épuration à l'exception de la station de Seine Valenton. Notre DSI exploite elle-même ses data centers et ses serveurs.

En ce qui concerne la cyberattaque dont nous avons été victimes, cela a commencé par un phishing, à savoir des e-mails que reçoivent les agents et dans lesquels ces derniers se voient demander leur mot de passe. Ces e-mails ont été envoyés à 200 agents du SIAAP et l'un d'entre eux y a répondu en donnant son mot de passe, sans se rendre compte qu'il était victime d'une attaque. L'assaillant a ensuite pris le contrôle de sa boîte e-mail et envoyé des milliers d'e-mails de phishing à d'autres collègues. La boîte e-mail de l'agent concerné a été fermée, les process ont été vérifiés et nous avons commencé à renforcer les accès. Or, un mois plus tard, les attaques sont devenues plus intelligentes : nous recevions nos propres e-mails en phishing, dans lesquels il nous était demandé de cliquer sur un lien. Au-delà de la messagerie, il est apparu que la cyberattaque avait atteint le système de gestion. Avec l'ANSSI, nous avons décidé de tout couper. Cette coupure nous a sauvés dans la mesure où l'assaillant n'a pas pu entrer, mais il a fallu se couper du monde pendant une journée. Nous avons embauché des partenaires informatiques pour venir scanner et remettre le réseau en
place. Finalement, seul un serveur de messagerie a été touché. Des e-mails nous ont été volés, ainsi que notre annuaire avec nos photographies et coordonnées (nom, fonction, etc.). Nous avons été touchés car nous aurions dû avoir prévu davantage de précautions. Mais nous avons mis toute l'énergie de notre service public à ressortir plus forts de cette crise.

Nous nous sommes dotés d'une nouvelle messagerie. Nous avons craint à un moment de perdre notre nom de domaine, mais nous l'avons
conservé. Nous avons mis en place une solution Endpoint Detection and Response (EDR). Il s'agit d'un logiciel qui surveille tout ce qu'il se passe d'anormal sur nos serveurs grâce à l'IA et qui envoie des alertes. Pour traiter les alertes, nous avons également mis en place un security operations center (SOC), un centre de crise qui surveille les réseaux 24 heures / 24, reçoit les alertes par les logiciels EDR et les traite en temps réel. Nous ne sommes pas suffisamment importants en taille pour disposer de notre propre SOC que nous sous-traitons dès lors à un
prestataire. L'infrastructure est ainsi en cours de modernisation.

En termes financiers, nous avions réalisé un audit informatique de notre système d'information en tant que service public industriel et il était apparu qu'il fallait consacrer deux points d'impôt à la sécurité informatique plutôt qu'un point. De nombreuses dépenses constituent ainsi un rattrapage de ce que nous n'avions pas fait auparavant.

Le SIAAP est un opérateur de service essentiel (OSE) au titre du transport et du traitement des eaux usées et fluviales, mais pas un opérateur d'importance vitale (OIV). Nous avons avancé sur plusieurs sujets durant la cyberattaque, dont la gestion de crise, le traitement des salaires, etc. Nous avons encore du travail et nous avançons à marche forcée. Nous rattrapons un retard de règles que nous n'avions pas implémentées, un retard qui ne se limite pas aux logiciels, mais qui concerne également l'organisation. Nous avons par exemple des serveurs qui doivent fonctionner 24 heures / 24, mais nos agents avaient peur de les mettre à jour, craignant de perturber le système. Par ailleurs, même si les agents ont des mots de passe et sont sensibilisés à la sécurité informatique, des erreurs humaines interviendront toujours. Il est donc nécessaire de mettre en place une double authentification pour accéder aux messageries. Il faut collaborer avec l'ANSSI et surveiller 24 heures / 24 le système d'information du SIAAP.

Mme Françoise Gatel, présidente. - Merci. Votre intervention suscite immédiatement deux réflexions. La première porte sur la nécessité d'une sensibilisation de toutes les collectivités et de leurs satellites sur le sujet. Des actions sont entreprises, et je remercie à cet égard l'ANSSI et l'Association des maires de France. J'ai adressé un courrier à Monsieur le Ministre de l'Intérieur lui suggérant d'inviter les préfets à être proactifs et à s'assurer que les collectivités ont bien conscience du sujet et de l'importance de la mise en oeuvre d'un dispositif, car l'enjeu est majeur. Deuxièmement, nous parlons souvent finances au Sénat et nous avons permis que l'État accompagne financièrement des dépenses extrêmement urgentes en prévention contre les incendies et les inondations. Quand j'entends parler d'un ou de deux points d'impôt, je doute que les collectivités qui font preuve d'une grande frugalité dans leurs finances soient sur le point d'inscrire dans leurs priorités les investissements nécessaires à la cybersécurité. Je pense vraiment qu'il faudra être extrêmement attentifs, lors de la prochaine loi de finances, à ce que l'État accompagne financièrement les investissements nécessaires.

Général, je vous remercie de l'extrême qualité du travail de l'ANSSI et de votre attitude proactive envers les collectivités. Je crois que d'importants progrès ont été faits autour du monde de l'entreprise, mais que le niveau d'action n'est pas le même pour les collectivités.

Général François Degez, Chef de la division coordination territoriale de l'ANSSI. - Je me présente, j'ai quarante années de service actif au sein de la gendarmerie. J'ai servi dans les Hautes-Alpes, en Loire-Atlantique, dans le Limousin et en Corse, dans des fonctions territoriales. Les gendarmes sont au contact de toutes les collectivités. Je suis également ingénieur de formation et cette double culture m'a amené à rejoindre l'ANSSI au sein de laquelle j'ai opté pour la coordination territoriale.

En ce qui concerne la menace, elle n'a pas tellement baissé. Il n'existe pas d'importante évolution en termes de cibles, mais les collectivités sont un peu plus encore sensibles à ce genre d'attaque.

L'ANSSI a des missions de défense - elle ne fait pas d'attaque ni de contre-manipulation d'information. Elle est l'héritière du bureau de secret du
roi. Elle s'est donc progressivement intéressée à la diplomatie, aux structures de fonctionnement de l'État, puis, de proche en proche, aux opérateurs d'importance vitale et, depuis 2018, aux opérateurs de services essentiels, toujours avec une culture de l'excellence technique et avec pour objectif la protection des enjeux majeurs. Depuis cinq ou six années, cependant, l'ANSSI s'est rendue compte que le numérique est devenu central et que la cyberdélinquance s'accroît. Or, face à une cyberdélinquance, il faut des dispositifs de protection de masse. L'ANSSI ne se contente donc plus de protéger les systèmes les plus importants. Il s'agit d'un véritable tournant culturel pour l'ANSSI qui doit conserver cette excellence de très haut niveau. C'est 80 % de son activité opérationnelle qui vise à répondre à une ingérence étrangère.

L'ANSSI s'est déployée progressivement dans les territoires
pour un accompagnement allant au-delà de ses bénéficiaires
traditionnels. Historiquement centrée sur la région parisienne, l'agence a désormais des délégués en région, qui sont en contact avec toutes les administrations, avec les réseaux des chambres consulaires et avec les réseaux des collectivités territoriales. Malgré la crise sanitaire, l'ANSSI a bénéficié d'un plan de relance doté d'un budget de 176 millions d'euros, dont plus de
100 millions d'euros ont été exclusivement dédiés aux collectivités ; 715 collectivités ont ainsi pu bénéficier d'un parcours de cybersécurité comprenant tout d'abord un audit payé intégralement par l'ANSSI à hauteur de 40 000 euros, avec un état des lieux complet et un plan d'action, puis un financement des principales actions à mener à hauteur de 50 000 euros. Cela a permis aux collectivités de lancer un plan d'action et un plan d'amélioration continue en matière de cybersécurité. Ce sujet n'est pas uniquement technique, mais il implique également une question de gouvernance.

J'ai par ailleurs acquis la certitude, depuis que j'ai rejoint l'ANSSI il y a deux ans, que les compétences sont insuffisantes sur ce sujet et qu'il convient donc de les mutualiser. Il s'agit de mouvements que nous essayons d'encourager parmi les opérateurs. Nous nous sommes notamment appuyés sur les opérateurs publics de services numériques (OPSN) dans le cadre du plan de relance pour mettre à disposition des petites collectivités des produits de sécurité de base que nous avons subventionnés pour l'essentiel. Nous développons par ailleurs d'autres outils : nous avons notamment mis en place depuis deux ans MonServiceSécurisé, une plateforme qui permet de dérouler un processus simplifié d'homologation. Pour rappel, le règlement général de sécurité datant de 2018 impose à toute administration, dès lors qu'elle échange de manière numérique soit avec les citoyens, soit avec une autre administration, d'homologuer ses services d'échanges au regard des règles de sécurité. Nous avons par ailleurs des services automatisés, dont le service active directory service (ADS). La plupart des systèmes d'information s'appuient en effet sur un annuaire sur lequel sont concentrés les bases de données et les droits d'accès. Or, lors d'une attaque, un phishing peut permettre à l'assaillant de rentrer dans ce système. Il faut donc que la gestion des comptes à privilèges (ceux qui ont le droit de modifier des paramètres de fonctionnement du système) soit protégée. Nous avons également un outil intitulé MonAideCyber qui est particulièrement adapté aux petites collectivités. Il s'agit de mettre en place un mécanisme d'audit assisté avec des propositions immédiates d'information.

Je voudrais enfin vous parler de NIS 2, une directive européenne promulguée en fin d'année dernière et qui doit être transposée en droit français avant la fin de l'année 2024. Cette directive étend les périmètres des entités réglementées de manière extrêmement importante. Avec NIS 1, les OIV comptaient 500 opérateurs (eau, électricité, énergie, télécommunication, finance, etc.). NIS 2 élargit les secteurs d'activité concernés, ce qui fera passer le nombre d'opérateurs régulés de 500 à 15 000, dont les administrations publiques et locales (y compris les collectivités). La proposition que nous ferons consiste à faire en sorte que les très grosses collectivités (départements, régions, grosses intercommunalités jusqu'au niveau des communautés d'agglomération) soient assujetties au niveau « hautement critique », tandis que les 992 communautés de communes seraient assujetties à un niveau « de base ». Cette mécanique a pour vocation de couvrir l'ensemble du territoire. Quant aux communes, nous avons fixé le seuil à 30 000 habitants pour qu'une commune soit assujettie au niveau « entité essentielle », mais nous cherchons à privilégier les processus de mutualisation et de regroupement.

Mme Françoise Gatel, présidente. - Merci. Nous compléterons certainement par les questions de nos collègues et je vais passer la parole à Guillaume Crépin, Délégué pour la région Île-de-France pour l'ANSSI.

M. Guillaume Crépin, Délégué pour la région Île-de-France de l'ANSSI. - Je vais rapidement vous présenter le rôle du délégué en région, ce qui vous permettra de vous tourner vers mes homologues dans d'autres régions afin de comprendre ce que nous faisons et comment vous pouvez vous appuyer sur nous. Le délégué en région représente le Directeur et l'ensemble des services et des métiers de l'agence dans la région dans laquelle il exerce. Il est installé aux côtés, et non pas sous l'autorité, du préfet de région. Il a ainsi une vision préfectorale de la région, ce qui lui permet d'aller au contact des préfets départementaux pour les aider à piloter un écosystème territorial et améliorer la résilience territoriale en matière de cybersécurité. Nous opérons dans le cadre privé et public et notre travail consiste donc à approcher aussi bien les organismes privés à travers les chambres consulaires, les fédérations professionnelles, les associations de professionnels et les chambres de métiers, afin de les aider à améliorer la sécurité numérique de leurs adhérents et de leurs entreprises (fédération française du bâtiment, MEDEF, CPME, etc.), que les organismes publics par le biais des préfets, afin de toucher les collectivités territoriales. Quand nous ne passons pas par les préfectures, nous pouvons directement passer par les intercommunalités. Nous sommes dans un rôle de « faire faire », un rôle d'accompagnement. Nous ne pouvons cependant pas accompagner individuellement chaque entreprise, chaque collectivité, chaque intercommunalité individuellement, raison pour laquelle nous nous focalisons sur des points mutualisants qui, eux, porteront des actions concrètes vers leur écosystème avec les recommandations de l'ANSSI qui leur souffle les bonnes pratiques à l'oreille de manière à ce que cela soit fluide, car ils connaissent leur territoire, leurs procédures et mécanismes et ils sont donc en capacité d'adapter les mesures, les ressources et les langages à leur propre écosystème.

Je reviens sur cette proposition que vous avez faite d'écrire au ministère de l'Intérieur pour engager les préfets dans une démarche vers les collectivités territoriales. Cela a déjà été fait en réalité : les préfets ont reçu en avril 2022 une note du ministère de l'Intérieur qui leur demande, en région et en département, de désigner un référent numérique dans le corps préfectoral de chacune des préfectures de département afin d'accompagner la montée en sécurité numérique dans l'écosystème départemental. Cela a plus ou moins bien été accueilli selon l'appétence du préfet et son agenda. J'ai rencontré l'un des premiers référents numériques au sein d'un département, mais ce dernier m'a reçu alors qu'il était en train de gérer la crise des stations-service qui étaient vides. Ce dispositif existe néanmoins et nous nous appuyons largement sur cette note pour essayer d'impulser quelque chose auprès des préfets et trouver en eux des relais pour toucher les collectivités territoriales. Il existe aujourd'hui un, voire deux délégués de l'ANSSI par région. À terme, il est prévu de doubler les effectifs dans chacune des régions. Nous avons par ailleurs depuis un an et demi un délégué dédié exclusivement aux territoires ultramarins, et à la Corse.

Mme Françoise Gatel, présidente. - Merci pour cette présentation. La délégation aux collectivités territoriales a aussi pour objet de faire savoir et de sensibiliser les élus aux services auxquels ils peuvent avoir recours. En ce qui concerne la mutualisation, nous avons notamment pointé dans notre rapport l'urgence d'une sensibilisation et de la mise en oeuvre d'un contrôle selon une échelle pertinente, tant en termes de coûts qu'en termes de ressources humaines qualifiées. Il est ainsi plus efficace de recruter cette compétence à l'échelle de l'intercommunalité, voire du département.

Je vais passer la parole à Monsieur Gilles Pirman, Chargé de mission stratégie des territoires pour l'ANSSI.

M. Gilles Pirman, Chargé de mission stratégie des territoires pour l'ANSSI. -Le poste que j'occupe est tourné vers les collectivités territoriales et pourra servir de plateforme entre l'ANSSI et les associations et organisations territoriales. Mes missions à court terme portent sur l'accompagnement de cette nouvelle norme européenne qui sera traduite dans la loi à l'automne 2024, et notamment sur l'accompagnement méthodologique et organisationnel dans les territoires.

Mme Françoise Gatel, présidente. - Il m'a été dit que vous interviendrez parfois au Conseil national d'évaluation des normes.

Je passe la parole à Monsieur Achille Lerpinière, Directeur des systèmes d'information pour la région Île-de-France.

M. Achille Lerpinière, Directeur des systèmes d'information (DSI) pour la région Île-de-France. - Merci beaucoup Madame la Présidente, Mesdames et Messieurs les Sénateurs, Monsieur le Maire, Mesdames et Messieurs. Corse d'origine, je suis à la région Île-de-France depuis un an maintenant en tant que directeur des systèmes d'information. J'ai auparavant passé quatre ans au ministère de la Santé, notamment sur tous les systèmes d'information Covid (TousAntiCovid, pass sanitaire, etc.). J'ai donc une culture cyber très ancrée sur la partie relative aux données de santé. Aujourd'hui avec la région Île-de-France, j'ai de nouveaux sujets cyber très importants. Au sein de la région, notre budget cyber annuel s'élève à 1,6 million d'euros en investissement et 600 000 euros en fonctionnement. En tant que deuxième financier public des Jeux olympiques de Paris, nous avons considérablement renforcé notre posture cyber et nous avons ainsi un XDR (pour détection et réponses étendues), un EDR (pour détection et réponse des endpoints), un Tehtris (outil de cybersécurité de neutralisation automatique des cybermenaces) et un SOC (pour contre opérationnel de sécurité) avec Orange Cyberdefense. Nous avons changé notre politique de gestion des mots de passe en utilisant le modèle en tiers (tiering model) pour contenir les usages bureautiques, serveurs et administrateurs. Nous avons un responsable de la sécurité des systèmes d'information (RSSI) au sein de la région et nous déployons une culture cyber avec une formation cyber obligatoire chaque année pour tous les agents. Entre trois et quatre tests de simulation de phishing sont menés chaque année en grandeur réelle sur l'intégralité des élus et des agents de la région.

Nous avons par ailleurs réuni hier une cellule de crise cyber en taille quasiment réelle, ce que nous referons en impliquant le cabinet de la présidence et la communication.

Nous allons renforcer notre posture cyber et diffuser cette culture cyber au sein de la région Île-de-France avec les trois points que je vais vous
présenter. Premièrement, nous avons lancé le 27 novembre 2023 notre centre de réponse à l'incident cyber pour la région Île-de-France en cofinancement avec l'ANSSI, avec un numéro gratuit, un site internet et une adresse e-mail. Ce centre de réponse à l'incident cyber est ouvert gratuitement à toutes les collectivités, TPE, PME, ETI, associations et établissements publics assimilés en Île-de-France qui peuvent directement contacter le numéro ou utiliser le formulaire afin de faire part d'une attaque cyber en cours. Ce centre de réponse à l'incident cyber va tout de suite procéder aux « gestes de premier secours » et leur proposer une mise en relation avec des sociétés expertes de niveau 2 pour les aider à faire de la remédiation d'incidents. Dans ce cadre, nous avons fait un appel d'offres pour les collectivités et nous avons sélectionné trois prestataires, avec Orange Cyberdefense en rang 1, Intrinsec en rang 2 et Almond en rang 3. Si les collectivités sont redirigées vers ces prestataires, elles bénéficieront d'un tarif négocié grâce à notre centrale d'achat. Pour le niveau 2 des PME, ETI et associations, nous avons lancé un appel à manifestations d'intérêt avec des prestataires qui sont a minima labellisés ANSSI ou d'autres labels experts cyber. Nous avons déjà une dizaine de labels référencés et l'idée sera d'en référencer une quarantaine. En parallèle, nous avons lancé le chèque cyber de 5 000 euros à 10 000 euros pour aider à renforcer la posture cyber des PME et des collectivités.

Deuxièmement, nous avons développé un outil complémentaire pour scanner la posture cyber de toutes les collectivités d'Île-de-France. La présidente a envoyé un courrier à toutes ces collectivités leur précisant ce que faisait ce scan non intrusif pour mesurer la vulnérabilité éventuelle de la messagerie et des protocoles web. Les maires peuvent se retirer de ce processus s'ils le
souhaitent. L'idée consiste à « scorer » chaque collectivité pendant trente jours glissants. Nous leur remettons un tableau de performance reprenant les potentielles vulnérabilités. Nous choisissons chaque semestre 300 collectivités ayant les notes les plus basses, lesquelles sont appelées afin de leur proposer d'améliorer leur posture. Six mois plus tard, un rapport leur est remis pour montrer si ce qu'elles ont fait a été utile.

Enfin, nous avons ouvert notre SOC en centrale d'achat à toutes les collectivités et à tous les organismes associés de la région, afin de leur permettre de bénéficier de prix plus intéressants auprès d'Orange Cyberdefense. Nous mettons également en place un réseau des RSSI et des directeurs techniques avec tous les organismes associés de la région afin de renforcer la posture cyber de ces derniers.

Mme Françoise Gatel, présidente. - Merci beaucoup pour cette présentation. Il est extrêmement intéressant de voir la démarche de la région Île-de-France. Je vois deux demandes de prise de parole : Madame Pascale Gruny et Monsieur Jean-Jacques Michau.

Mme Pascale Gruny. - Merci pour votre présentation. Ce sujet m'a toujours interpellée durant ma carrière professionnelle en comptabilité et en tant que directrice financière. Il n'était pas question de cyberattaques quand j'ai débuté ma carrière. J'ai été très étonnée d'apprendre le nombre d'attaques quotidiennes au sein du département de l'Aisne, notamment russes. Pensez-vous que les communes peuvent financièrement faire de l'infogérance, à savoir externaliser complètement leur système informatique, leur système numérique, leur maintenance et leur sécurité ?

M. Jean-Jacques Michau. - Je suis le président de l'association des maires de mon département et la question qui se pose est celle du déni de la problématique des cyberattaques. Est-il possible de prévoir des subventions pour réaliser les études et investissements nécessaires ?

M. Laurent Burgoa. - Au Sénat, nous sommes très favorables aux communes, qui constituent la collectivité de référence. Or, la structure territoriale la mieux à même de répondre à la cybercriminalité ne serait-elle pas plutôt l'intercommunalité qui pourrait pour une fois être mise en avant ?

M. Max Brisson. - Mon Général, vous avez parlé de mutualisation. J'ai deux questions. Le mille-feuille et la multiplication des collectivités françaises par rapport aux autres pays européens sont-ils un handicap pour ces questions de sécurité et de cybersécurité ? Sommes-nous en retard ou en avance par rapport aux autres pays européens dans la protection des collectivités face à la cybercriminalité ?

Mme Françoise Gatel, présidente. - La question de la nécessité de transférer une compétence, ou de mutualiser des moyens, se pose bel et bien. Le sujet de la cybersécurité constitue l'exemple même de la pertinence d'une intercommunalité, pour faire ensemble ce que nous ne pouvons pas faire
seul : optimiser la dépense et mutualiser les services.

Mme Sonia De La Provôté. - Il me semble que la question pourrait se poser du caractère obligatoire, et non facultatif, de la compétence à l'échelon intercommunal. Il s'agit de savoir où doit se situer le service opérationnel de la collectivité, car les voies d'accès deviennent multiples et il faut qu'un chef de file gère ce sujet.

M. Laurent Somon. - Est-il possible, dans les marchés publics et les délégations de service public, d'imposer qu'une attention particulière soit portée ou qu'un engagement soit de mettre en place une cybersécurité ?

Madame Françoise Gatel quitte la séance à 12 heures.

Monsieur Laurent Burgoa reprend la présidence de la séance.

Général François Degez. - Créer une compétence est un processus législatif. De notre point de vue, le sujet majeur de la protection des systèmes d'information est un sujet de compétences humaines, de ressources et de compétences qu'il faut organiser et mutualiser. La question se pose de savoir s'il faut créer une compétence numérique en cybersécurité et, le cas échéant, quels en seraient les contours exacts, ce qui relève d'un travail de fond du côté du législateur.

Le Morbihan est exemplaire en la matière. Le préfet du département, le président de l'assemblée départementale et les établissements publics de coopération intercommunale locaux ont créé un groupe de travail sur la cybersécurité des collectivités qui met en place une réflexion sur ces sujets.

Mme Pascale Gruny. - Quel est le statut juridique de cette instance ?

Général François Degez. - Il s'agit d'un groupe de travail mutualisé. J'ai la conviction qu'il n'existe pas de modèle unique, mais qu'il faut une mutualisation, qu'elle se fasse au niveau de l'intercommunalité ou, comme le fait la Dordogne, au niveau du département avec un data center mis à disposition de toutes les collectivités qui souhaiteraient faire héberger leurs données. À Concarneau en Bretagne, le système d'information a été mutualisé pour les communes alentour.

M. Laurent Burgoa. - Les élus attendent une boîte à outils dans laquelle ils puissent choisir.

M. Laurent Somon. - Dans la Somme, le syndicat mixte « Somme Numérique » offre un data center et tous les services de protection de messagerie.

Général François Degez. - Il s'agit d'un opérateur public de services numériques (OPSN). Il existe en effet de nombreuses solutions possibles, l'essentiel étant que des regroupements se fassent à une taille suffisamment critique, de manière à ce qu'il soit possible d'assumer une stratégie de mise en sécurité sur le long terme.

M. Laurent Burgoa. - Avez-vous une action de formation à l'attention des sous-préfets qui constituent l'échelon le plus proche des élus locaux ?

Général François Degez. - Nous avons évoqué le référent numérique qui doit en principe être désigné au sein de chaque département dans un but de coordination.

Mme Sonia De La Provôté. -Y en a-t-il partout ?

Général François Degez. - Je ne connais pas le nom de tous les
référents. Nous sommes en cours de réflexion avec le ministère de l'intérieur afin de redonner de l'impulsion. La dotation d'équipements des territoires ruraux (DETR) constitue notamment l'une des pistes que nous suggérons.

M. Laurent Burgoa. - La DETR est déjà très sollicitée.

M. Guillaume Crépin. - Tout l'intérêt pour l'ANSSI d'avoir des délégués en région consiste à connaître les spécificités de chacune des régions. Il faut en effet s'adapter et nous ne pouvons pas, par le haut, imposer un régime public identique à tous. Il est important pour les délégués régionaux de l'ANSSI d'être immergés dans l'ensemble de l'écosystème régional, qu'il soit public ou privé, pour connaître les spécificités et les besoins et encourager la mutualisation. Notre vrai travail de fond consiste à chercher des ressources susceptibles d'être mutualisées, faire émerger les acteurs de ces mutualisations quand ils n'existent pas, accompagner ceux qui montent en compétence et renforcer ceux qui existent déjà. Je suis par exemple en train d'aider un syndicat mixte à modifier complètement son paradigme : alors qu'auparavant, ce syndicat avait pour mission de connecter les communes à la fibre, il a aujourd'hui changé ses statuts pour proposer également des ressources mutualisées de sécurité numérique à destination des collectivités du département.

M. Achille Lerpinière. - Nous imposons notre plan d'assurance sécurité dans tous les marchés de prestataires afin qu'ils se conforment au plan de sécurité du système d'information (PSSI) régional. En matière de mutualisation, nous avons un data center à Saint-Ouen et un data center mutualisé avec un GIP Val-d'Oise Numérique que nous partageons avec la Haute Autorité de Santé, l'Inserm et l'Agence de biomédecine. S'agissant de l'infogérance et des services managés, il est intéressant de les mutualiser au vu de leur coût, soit 15 millions d'euros par an pour l'infogérance uniquement.

M. Laurent Burgoa. - Je vous remercie au nom de la présidente et de l'ensemble de mes collègues pour la qualité de vos interventions

ANNEXE 3 : TABLE RONDE CONJOINTE AVEC LA DÉLÉGATION SÉNATORIALE À LA PROSPECTIVE SUR LE THÈME : « L'IA VA-T-ELLE TRANSFORMER NOS VILLES ET NOS VILLAGES ? »

10 octobre 2024

Mme Corinne Féret, vice-présidente de la délégation aux collectivités territoriales et à la décentralisation. - La présidente de notre délégation ayant été appelée à d'autres fonctions, elle m'a chargée d'introduire à sa place cette réunion, aux côtés de Christine Lavarde. Nous nous retrouvons pour une table ronde organisée conjointement avec la délégation à la prospective. Nos échanges vont nous projeter dans l'avenir - peut-être pas si éloigné ! - puisque nous allons tenter de répondre à cette question, qui taraude nombre d'élus
locaux : l'intelligence artificielle (IA) va-t-elle transformer nos villes et nos villages ?

Je remercie la présidente de la délégation à la prospective, Christine Lavarde, pour son implication dans cette réflexion, ainsi que nos collègues Amel Gacquerre et Jean-Jacques Michau, rapporteurs d'une mission sur l'IA et les territoires. La délégation aux collectivités territoriales n'est pas en reste sur ce thème : nos collègues Pascale Gruny et Ghislaine Senée conduisent, depuis ce printemps, une mission d'information sur l'IA dans l'univers des collectivités territoriales.

J'ai le plaisir d'accueillir nos invités, qui vont avoir la lourde tâche d'éclairer pour nous un avenir incertain. Monsieur Jean-Gabriel Ganascia, vous êtes professeur d'informatique à la faculté des sciences de Sorbonne Université et vous avez été membre du Comité national pilote de l'éthique du numérique (CNPEN). Vous êtes aussi l'auteur d'un ouvrage au titre évocateur, « L'IA expliquée aux humains ». Dans ce livre, vous traitez de questions qui s'inscrivent en toile de fond de nos échanges à venir : les machines nous dépasseront-elles ? Acquerront-elles une conscience ? Supprimeront-elles des emplois ? Nous feront-elles entrer dans une société de surveillance ? Autant de questions d'autant plus anxiogènes qu'elles n'ont peut-être pas encore de réponses.

L'univers du livre, c'est aussi le vôtre, madame Catherine Dufour. Vous êtes romancière et auteure de science-fiction, et l'IA constitue pour vous une source d'inspiration, mais vous avouez également qu'avec l'IA, les auteurs de science-fiction courent le risque de se retrouver systématiquement dépassés par la réalité, avant même d'avoir écrit le premier chapitre de leur roman ! Si tel est le cas alors, que devraient dire les élus ?

Justement, nous avons voulu faire réagir un élu local à cet emballement de la science. Ce sera votre rôle, monsieur Pierre Jannin, en tant que conseiller municipal délégué à l'innovation et au numérique de la commune de
Rennes. Vous serez notre grand témoin et vous nous direz, en partant de votre expérience locale, comment un élu peut se positionner pour ne pas rester à la traîne de l'IA. Je précise que vous êtes un membre actif de l'association Les Interconnectés, qui rassemble de nombreuses intercommunalités et qui a engagé depuis plusieurs mois un travail de fond sur l'IA dans les collectivités territoriales.

Mme Christine Lavarde, présidente de la délégation à la prospective. - Notre délégation apprécie beaucoup les travaux conjoints avec d'autres instances, comme c'est le cas aujourd'hui. Nous avons travaillé avec la délégation aux droits des femmes, avec la délégation aux entreprises, nous menons des travaux communs avec l'Office parlementaire d'évaluation des choix scientifiques et technologiques (Opecst), nos rapporteurs ont présenté leurs recommandations devant la commission des affaires sociales... L'IA est un sujet transverse qui nous touche tous dans nos usages personnels et
professionnels. Les travaux de notre délégation commencent à être connus : j'ai reçu hier une invitation à participer à un panel d'experts à la fin du mois de novembre et, au nom de la délégation, je serai auditionnée par le Conseil économique, social et environnemental (CESE) dans quelques jours, dans le cadre de la préparation du Sommet mondial sur l'IA que la France accueillera au mois de février.

Nous avons déjà organisé des auditions sur le sujet d'aujourd'hui ; lors de la première d'entre elles, notamment, on nous a fait une démonstration de ce qu'on pouvait demander à l'IA. L'intervenant s'était mis dans la peau d'un élu local qui doit présenter un projet d'urbanisme à ses administrés. Il avait demandé à ChatGPT quelles questions ces derniers pourraient lui poser, et lui avait commandé de préparer des réponses. Nous avons pu voir en quoi l'IA apportait des réponses, mais nous avons vu aussi qu'il fallait les compléter par de l'intelligence humaine pour affiner son travail. Mais l'IA avait énuméré tous les thèmes qui pourraient être évoqués et auxquels on n'aurait pas forcément pensé au moment de préparer cette réunion de concertation locale...

M. Jean-Gabriel Ganascia, professeur d'informatique à la faculté des sciences de Sorbonne Université. - Je suis chercheur en IA depuis quarante-cinq ans : cette discipline n'est pas ancienne sans doute, mais elle n'est pas neuve, et elle a une histoire. J'ai également une formation de philosophe. Or le déploiement de l'IA dans nos sociétés soulève des questions éthiques. J'ai siégé au CNPEN, qui a désormais achevé ses travaux et devrait être transformé en un comité d'éthique du numérique pérenne, dont les membres ne sont pas encore
nommés. J'ai présidé le comité d'éthique du Centre national de la recherche scientifique (CNRS), je préside celui de France Travail et celui de Docaposte, et je siège dans plusieurs autres.

L'IA est avant tout une discipline scientifique, née en 1956, qui a pour but de simuler les capacités cognitives humaines et non de fabriquer une machine intelligente. On suppose que l'intelligence est la résultante d'un certain nombre de fonctions mentales. Ce sont ces fonctions mentales que l'on simule et que l'on confronte avec la modélisation. Il s'agit donc avant tout d'un grand domaine scientifique. Puis, une fois que ces fonctions mentales sont simulées, on les introduit à l'intérieur de différents dispositifs technologiques : sur votre téléphone portable, par exemple, il y a de la reconnaissance faciale ou
vocale. L'IA est désormais présente dans toute la société. Ce n'est pas le futur, c'est le présent ! Internet, par exemple, résulte du couplage des réseaux de télécommunications avec un modèle de mémoire, l'hypertexte. Or la mémoire est une faculté cognitive.

L'IA a évolué récemment. D'abord, avec les « réseaux de neurones profonds », il y a une dizaine d'années. Les réseaux de neurones sont une technique qui a plus de quatre-vingts ans, puisqu'elle date de 1943. À l'origine, elle reposait sur une image assez grossière de notre cerveau, et ne
fonctionnait pas très bien. Progressivement, on a amélioré les technologies
correspondantes. Il y a deux jours, le prix Nobel de physique a été décerné aux deux personnes qui ont contribué au renouveau des réseaux de neurones formels, dans les années 1980, en utilisant les théories de la physique statistique pour essayer de modéliser leur dynamique.

Dans les années 2010, une nouvelle étape a été franchie avec ce qu'on a appelé les « réseaux de neurones profonds », notamment avec le Français Yann Le Cun. À partir de 2017, on a utilisé ces réseaux de neurones formels pour constituer des modèles, d'abord les réseaux antagonistes génératifs, qui permettent de fabriquer des images, et surtout des modèles de langue, qui extraient l'esprit de la langue, c'est-à-dire les relations invisibles entre les mots, comprises comme un immense réseau comportant des milliers de milliards de connexions, grâce à un entraînement sur d'énormes corpus de textes. On fait alors de l'auto-encodage, pour affiner les relations entre les mots et, à partir de cela, on déploie de nouvelles technologies de traitement de la langue, dont la génération de texte, que vous avez certainement tous utilisée.

Quels services l'IA peut-elle rendre aux collectivités ? Dans les comités d'éthique auxquels j'ai participé, au cours des échanges que j'ai eus avec Les Interconnectés il y a quelque temps, lors des présentations que j'ai faites, j'ai pu identifier trois axes principaux. Le premier, ce sont les outils internes, par exemple d'aide à la rédaction. Une petite enquête a montré que, chez France Travail, ces outils étaient très utilisés pour écrire les courriels, les rapports,
etc. L'usage est également heuristique : la génération d'idées. En outre, l'IA peut contribuer à la fabrication de résumés. On peut, enfin, s'en servir pour s'informer, mais il existe déjà des moteurs de recherche et l'IA produit des erreurs, qu'on appelle à tort des « hallucinations » - il n'y a pas de conscience dans les machines !

Viennent ensuite les usages externes. Une administration peut utiliser l'IA pour gérer ses contacts avec ses administrés, avec des chatbots par
exemple. Cela pose beaucoup de problèmes, à commencer par un risque de déshumanisation, puisqu'il n'y a plus de contact direct avec les personnes. La machine peut également affabuler, ce qui peut emporter des effets désastreux, la responsabilité de l'administration se trouvant engagée. Récemment, un jeune homme ayant ainsi reçu de fausses informations a intenté un procès à Air
Canada. Imaginez le nombre de procès de ce type qui pourraient survenir... On peut aussi utiliser l'IA pour rechercher des informations juridiques. Pour cela, on spécialise les outils de génération de textes sur un corpus particulier, ce qui peut rendre des services considérables.

Il existe enfin un troisième type d'applications, plus innovantes, consistant à interpréter des signaux faibles avec des outils d'IA. C'est très prospectif à ce stade, mais cela pourrait être utile aux collectivités territoriales, par exemple pour savoir si un dispositif donné a été utile ou inefficace.

Quels risques comporte l'utilisation de ces techniques par les collectivités ? Tout le monde a en tête certaines inquiétudes, comme celle de voir une machine acquérir une conscience... Il y a surtout des risques de mécompréhension, d'inquiétude chez les usagers ou dans les administrations elles-mêmes. France Travail a mis en place un comité d'éthique, de crainte que les agents s'inquiètent de l'utilisation d'outils d'IA. Certains comités d'éthique ont pour but de concevoir des chartes générales ou des principes ; d'autres se focalisent sur des applications, et les personnalités extérieures qui y siègent aident à identifier les difficultés. Il faut alors que les équipes internes relaient les exigences formulées par le comité.

Il y a aussi des questions techniques de robustesse : il faut alors mener des tests. On a affaire à des systèmes qui pratiquent l'induction, c'est-à-dire qu'ils passent du particulier au général, et on n'a jamais de certitude. Il faut donc une démarche rigoureuse pour s'assurer que les dispositifs fonctionnent bien. L'IA n'est jamais une solution miracle ; il faut confronter ses solutions au réel et la comparer avec d'autres dispositifs. Le CNPEN a rédigé un rapport sur la reconnaissance faciale, comportementale et posturale, en suivant une démarche empirique, ce qui nous paraît essentiel.

Mme Catherine Dufour, romancière et auteure de science-fiction. - Je suis auteure de science-fiction et ingénieure en informatique. Je vais vous parler de ce que la science-fiction met en scène concernant le sujet qui nous occupe aujourd'hui. La science-fiction est représentative de l'imaginaire commun actuel sur un sujet donné. Elle ne nous renseigne pas sur l'avenir, mais sur nos angoisses du présent.

L'IA dans la ville et dans les villages, c'est ce qu'on appelle les smart cities. On cite souvent Oslo, Barcelone, Montréal, Singapour, et beaucoup de villes se revendiquent comme telles. Dans le contexte urbain, l'IA peut constituer un vecteur de transformation des services publics de plusieurs manières. Elle aidera les villes à optimiser ce dont elles disposent, à activer les ressources sous-utilisées, à adapter l'offre à la demande et à réduire les frictions entre les deux : c'est ce que l'on appelle le matching ou, en français, l'appariement. Ensuite, l'IA urbaine peut favoriser la participation des citoyens et des citoyennes, vue comme vertueuse. Enfin, elle peut aussi être employée par des agents commerciaux pour vendre de façon ciblée, sans demander l'avis des consommateurs. Tels sont les trois axes de transformation que l'IA pourra apporter à nos villes et nos villages dans les années à venir, sachant qu'elle a déjà commencé à le faire.

Les champs d'application sont immenses. L'IA pourra intervenir dans le pilotage du tissu urbain, la santé, le logement, le transport, l'énergie, la qualité de l'air, les déchets, l'éclairage, la sécurité. Pour vous donner un exemple, des drones pilotés par l'IA peuvent survoler les toits, surveiller leurs dégradations et prioriser des travaux, par exemple pour les repeindre en blanc afin de faire baisser la température urbaine. C'est une technologie de la prévision, donc de la gouvernance. Ses détracteurs ne s'y trompent toutefois pas, c'est aussi une technologie de la surveillance, à l'instar du fameux Panopticon étudié par Michel Foucault dans « Surveiller et punir ». La surveillance venue du ciel n'est pas qu'un cauchemar futuriste et paranoïaque : la Chine surveille les Ouïghours et cible ceux qui respectent le ramadan, ce qui indique une immixtion dans la vie quotidienne et intime, rendue possible par l'IA, qui fait froid dans le dos. Cela fonctionne bien dans un espace étroit et artificialisé, c'est beaucoup plus difficile en milieu rural. Ainsi, les élus locaux se heurteront sans doute, au gré du développement de l'IA, à une méfiance, parfois justifiée, des citoyens et des citoyennes.

La meilleure représentation du futur de l'IA en milieu urbain est développée dans « Les furtifs » d'Alain Damasio. L'IA y est vue comme une sorte de ver à soie, une araignée qui génère un techno-cocon qui vous protège, mais qui vous isole aussi du monde. Dans ce livre, l'IA urbaine n'est considérée que sous un angle commercial. On y oublie totalement l'IA qui fait participer les citoyens, qui leur facilite l'accès aux services publics, qui économise des ressources, alors que c'est tout de même un aspect souhaité de nos futures IA urbaines.

Dans « Au bal des actifs », on voit une ville recyclée, plutôt verte et inventive par ailleurs, mais le contrat social y implique l'adhésion à un réseau d'IA urbaine. Cette adhésion permet de tout obtenir, à chacun selon ses besoins, mais celui qui la refuse doit payer tous les services de base à plein tarif. Cela pose le problème de la liberté d'adhérer ou non à ce contrat, une problématique poussée magnifiquement jusqu'à l'absurde dans « LoveStar » de Magnason, et dans « Ubik » de Dick, dont on peut aussi citer « Minority Report », où l'on voit des IA urbaines présentées systématiquement comme agressives et invasives.

Avec ce point de vue science-fictif, qui met l'accent sur une invasion de l'IA dans l'urbain, l'humain se retrouve dans une logique irrespirable. Il est surveillé sans cesse et sa liberté a fondu devant une intervention qui se veut bienveillante, mais qui se révèle totalitaire et tenue par des sociétés privées. On assiste à la mise en scène d'une importante mainmise du privé sur les libertés publiques. C'est, bien sûr, de la dystopie.

Heureusement la fictionalisation du futur ne vit pas que de dystopie : place à l'utopie ! La société Bluenove a créé Bright Mirror, par contraste avec « Black Mirror », une série dystopique. Il s'agit d'une série d'ateliers d'écriture dont le principe est simple : on rassemble quatre-vingts personnes, on constitue des équipes de trois et chaque équipe a une heure pour écrire une microfiction sur un thème précis. Le ministère de la transition écologique et de la cohésion des territoires a fixé un thème, par exemple, avec une seule obligation : être optimiste. Du coup, l'IA y est vue de façon positive, à condition qu'elle se fasse oublier, qu'elle ne participe pas à la gouvernance et qu'elle facilite la vie de chacun.

En résumé, l'IA et le tissu urbain, quelles difficultés science-fictives ? Si la fictionalisation de l'IA apparaît souvent si dystopique, c'est que c'est là le travail de la science-fiction : celle-ci ne parle pas des voitures, mais des embouteillages. Elle est là pour mettre en scène les conséquences possibles d'innovations technologiques actuelles, afin que le peuple des lecteurs et des citoyens, nous tous, prenne des dispositions en amont de la diffusion de ces innovations dans la sphère sociale. Chaque avancée peut avoir des dérives, en effet, et il faut les prévenir.

Pour l'IA urbaine, les difficultés prospectives s'articulent sur quatre axes. Premièrement, il n'est pas possible d'y échapper si l'on vit dans un tissu urbain ou rurbain. Deuxièmement, si elle tombe entre de mauvaises mains, les choses peuvent mal tourner, même avec des garde-fous comme l'AI Act de 2023, qui peut avoir le même effet que les lois sur la non-brevetabilité du vivant : ces textes sont formidables, mais ils ne sont appliqués que par un tier de la planète. Le troisième problème est le poids. Les sociétés qui développent et qui implémentent à grande échelle des IA ne sont pas petites, ce ne sont pas des PME. Le souci est politique, si cela tombe entre de mauvaises mains, publiques ou privées - on pense aux sociétés de la tech, les Google, Apple, Facebook, Amazon, Microsoft (Gafam). Comme citoyens, nous vivons en démocratie, mais dès que l'on franchit le seuil d'une société privée ou d'un régime dictatorial, on se retrouve dans une monarchie, avec ses princes de sang, ses lettres de cachet, son népotisme, son opacité, etc. Certes, les dirigeants des sociétés de la tech sont en général des gens sensés, mais certains semblent n'avoir pas résisté à la pression... La quatrième problématique est écologique. L'IA contribue à l'artificialisation des sols, mais on peut parler aussi des terres rares que son fonctionnement requiert, ou du refroidissement des serveurs. L'IA urbaine crée un problème écologique au carré, qu'il faut résoudre. C'est pour cela que les auteurs de science-fiction tirent la sonnette d'alarme, alors qu'elle peut avoir un usage vertueux.

Le travail des agents territoriaux est-il susceptible d'être impacté par l'IA ? D'abord, leur travail sera facilité et optimisé. Puis, il sera davantage qualifié. Enfin, il y aura une légitimité à défendre pour ne pas s'abriter derrière l'IA.

En conclusion, je voudrais parler des villages, dans une optique de décroissance. Sur ce point, on peut toujours lire ce très vieux livre qu'est « Demain les chiens ». Il date de la grande angoisse nucléaire, et non climatique, mais le résultat est le même. L'humanité y vit dans un tissu villageois étendu, avec beaucoup de bonheur et de réussite. Beaucoup plus récent, puisqu'il a été publié cette année, « Obsolète », de Sophie Loubière, décrit un tissu urbain très vertueux. C'est un vrai catalogue de techniques de remédiation urbaine et villageoise pilotée par l'IA et par les citoyens. Chaque citoyen, au fond, y devient un agent territorial.

M. Pierre Jannin, conseiller municipal délégué à l'innovation et au numérique de la commune de Rennes. - Je suis chargé du numérique pour la ville de Rennes. Je représente aussi l'association Les Interconnectés, qui travaille avec France urbaine et Intercommunalités de France. Enfin, je suis directeur de recherche à l'Institut national de la santé et de la recherche médicale (Inserm), où je fais des recherches sur l'application de l'IA dans le domaine de la santé. Nous ne sommes pas ici pour discuter de technique, mais pour aborder l'IA sur le plan politique. Très tôt, les élus chargés du numérique des grandes villes et des communes de France ont posé la problématique du numérique comme un sujet politique. Le numérique est une politique sectorielle comme une autre dans nos villes et nos territoires et, en tant que telle, cette politique doit être responsable, sur le plan social, éthique, écologique même. C'est le sens du manifeste que nous avons publié, pour un numérique plus responsable.

Mme Lavarde relatait une expérience dans laquelle ChatGPT formulait les questions que poseraient les citoyens. Je pense qu'il faut demander l'avis des citoyens et des citoyennes, mais directement à eux-mêmes et à elles-mêmes ! Je pousse pour une approche démocratique venant des territoires où les craintes autour de l'IA, du numérique en général ou de toute technologie nouvelle, soient exprimées par les citoyennes et les citoyens eux-mêmes. Cela permet de les former, de les sensibiliser, de les rendre acteurs de la société que nous construisons toutes et tous ensemble. Et cela les place dans une approche de consultation, de participation, pour mieux définir à la fois les intérêts et les risques.

À Rennes, cette démarche a commencé par la discussion autour de la 5G, il y a quelques années. Les échanges furent très tendus, comme d'ailleurs au niveau national. Des communes, des territoires ont alors décidé de s'approprier cette question : comme elle n'était pas appréhendée au niveau national avec les citoyens, nous l'avons fait au niveau des territoires. Écoutons la voix des territoires et prenons-la en compte dans les politiques nationales ! Sur la 5G, cinquante citoyens furent tirés au sort et formulèrent des recommandations. Parmi celles-ci, nous avons identifié la volonté que ce débat se poursuive de manière pérenne, notamment sur le numérique en général.

Nous avons donc créé il y a trois ans, à Rennes, le Conseil citoyen du numérique responsable (CCNR), qui étudie des questions autour du numérique, en autosaisine, à la demande des citoyens ou de la ville. En parallèle, en 2021 et 2022, nous avons rédigé un rapport sur la promotion d'une société civile du numérique.

Sur la 5G, les citoyennes et les citoyens nous indiquaient qu'ils n'y pouvaient rien, que tout était décidé en haut. Le numérique et l'IA peuvent aussi donner cette impression. Nous devons donc aller chercher ensemble des marges de manoeuvre. Dès lors, nous pouvons constater que les territoires ont leur mot à dire, qu'ils ont des responsabilités, qu'ils peuvent faire des choses. Aujourd'hui, je viens porter une voix de la province à Paris, mais nous pouvons aussi conduire des actions localement autour de ces enjeux.

Le CCNR rassemble des citoyens tirés au sort, qui représentent la diversité de la population rennaise. Ils travaillent sur des sujets comme l'impact de la dématérialisation des démarches administratives, ou l'impact du numérique sur la santé mentale des jeunes. Je les ai saisis sur le sujet de l'IA, en demandant quel sera son impact pour la ville de Rennes, dans les vies des Rennaises et des Rennais. Ils ont identifié trois axes principaux. Premièrement, l'IA peut être mise au service des territoires : pour les déchets, l'énergie, l'urbanisme, la gestion des cantines, la gestion des effectifs dans les crèches... Ce sont autant d'exemples d'« IT for good », comme on dit. Le deuxième axe de travail identifié est l'impact de l'IA sur les métiers et le travail, et le troisième, celui de l'IA sur les décisions politiques, la justice, la sécurité et l'espace public. Les citoyens ont décidé de travailler sur ce dernier point. Le rapport a été publié. En ressort un besoin de gouvernance et de transparence, pour que l'IA, pharmakon, médicament et poison à la fois, reste encadrée.

Au sein de l'association Les Interconnectés, association des élus du numérique des communes métropoles et villes de France, nous avons entamé il y a quelques semaines des concertations territoriales sur l'IA, pour que les collectivités lancent des débats, avec une grande liberté de thèmes et de publics ; nous avons réalisé un site web, pour accompagner le lancement des concertations à partir d'un canevas de documentation. Ces concertations vont courir jusqu'en mars 2025, date à laquelle aura lieu le prochain forum de l'association à Rennes. Une trentaine de territoires se sont engagés. Ainsi, nous pourrons produire un manifeste de l'IA au service des territoires. Telle est notre méthode.

Mme Pascale Gruny, rapporteur. - L'IA me donne le vertige. Les questions sont si nombreuses, et touchent à tant de domaines ! Il est difficile de définir un cadre de réflexion. Comme élus, nous cherchons à répondre aux besoins de la population. Or les craintes liées aux nouveaux outils nous éloignent davantage les uns des autres, dans une société où les personnes se referment sur elles-mêmes. Je viens d'un département très rural, qui compte 789 communes et une « grande » ville de 58 000 habitants. Notre population a de grandes difficultés à utiliser l'informatique. Ainsi, comment rassurer la population, par exemple en matière de fiabilité des informations, et comment encourager l'esprit critique ?

L'Éducation nationale, en France, n'est pas encore entrée dans l'ère de l'IA. Les enfants ne semblent pas préparés, alors que l'apprentissage de l'esprit critique devrait se faire très tôt, dès la maternelle.

Les collectivités risquent, après avoir financé des outils nouveaux, d'être bloquées à cause d'une défaillance de l'entreprise. J'ai déjà testé des outils dans les collectivités ; malheureusement, le résultat n'est pas très bon.

J'en viens à la protection des données. Je m'y suis intéressée au Parlement européen en 2009. Comment protéger nos données personnelles, mais sans pénaliser l'IA, qui doit aussi nous apporter des solutions ?

Enfin, j'ai de grandes inquiétudes en matière de cybersécurité.

Mme Ghislaine Senée, rapporteure. - En matière de soutenabilité et d'impact, je n'ai eu aucune réponse concrète à mes interrogations lors de nos auditions, notamment sur la consommation des ressources : eau, silice, énergie. Par ailleurs, les Gafam accaparent les nouveaux contrats d'énergie renouvelable. Je pense à l'éolien et au solaire, tandis que Microsoft est en train d'acheter une centrale nucléaire. Ce niveau d'accaparement des Gafam atteint 30 %.

Finalement, on a donné un accès à l'IA à l'ensemble de la population. Ce serait cependant une folie de penser que tous pourront l'utiliser. Nous créons aujourd'hui un besoin, mais les services deviendront payants à terme, ne serait-ce que pour respecter l'Accord de Paris. Les implications sont vastes en matière de responsabilité écologique et sociale : comment éviter une fracture sociale ? S'y ajoutent les questions liées à la responsabilité éthique et démocratique. Ainsi, comment faire pour respecter nos engagements climatiques et sociaux ?

Ensuite, l'absence d'évaluation me frappe, malgré l'évolution spectaculaire des technologies. Il faut s'adapter à de nouveaux produits, qui arrivent sur le marché avant même que nous ayons pu légiférer.

Mme Amel Gacquerre, rapporteure. - La fracture territoriale est déjà prégnante. L'IA repose sur la collecte de données et leur traitement. Or toutes les collectivités n'ont pas les mêmes moyens. Comment pallier ce biais ? Tous les territoires n'avancent pas de la même manière.

L'IA comme outil d'aide à la décision politique ne fait-elle pas courir un risque de déresponsabilisation des élus et des agents ainsi que de standardisation des décisions ? La démocratie locale est-elle menacée, si les algorithmes dictent demain la conduite des responsables locaux ?

Enfin, ne craignez-vous pas une forme de déshumanisation ? Voyez les chatbots. Jusqu'où aller ? Nous risquons de couper un lien essentiel pour notre société.

Enfin, quel est le risque en matière de libertés fondamentales et de respect des droits de l'homme ? Devons-nous légiférer davantage ?

M. Jean-Gabriel Ganascia. - Nous n'avons pas de solution clé en main pour obtenir l'adhésion des citoyens. En revanche, nous avons répondu de manière parcellaire dans des rapports, par exemple dans notre avis sur les enjeux éthiques des technologies de reconnaissance faciale, posturale et comportementale, ou dans nos discussions au sein du comité d'éthique, où nous nous posons la question de manière très concrète.

L'IA est un domaine très vaste. Il faut se demander de manière très précise, sur chaque point, ce que l'on veut faire. Par exemple, installer des caméras dans les villes doit répondre à un but précis, explicite, présenté de manière transparente. L'objectif doit toujours être très clair. Souvent, les administrations, parce qu'elles veulent être modernes, proposent des solutions sans savoir exactement ce qu'elles veulent en faire. Dans une ville du Sud, la reconnaissance faciale a été utilisée pour des situations où elle reste inexploitable : elle ne fonctionne pas quand, au cours d'un événement festif, les personnes se griment, par exemple.

Il faut aussi comparer les solutions technologiques avec les solutions alternatives, et expliquer les gains envisagés. Enfin, il faut mener des évaluations et des expérimentations.

Dans notre avis sur la reconnaissance faciale, posturale et comportementale, nous distinguons deux types d'expérimentation : sociale et scientifique. Une telle démarche, transparente et rigoureuse, est la seule qui pourra recueillir l'adhésion des populations ; sinon nous courons à la catastrophe.

Dans le cadre de France Travail, nous avons établi une charte, dont le premier point est la centralité de l'humain. Voilà un bon guide.

Concernant le monde rural, l'IA joue déjà un rôle dans l'agriculture.

En matière de soutenabilité, certaines solutions restent sobres, tandis que les grands modèles de langage ou de génération de textes sont dramatiquement consommateurs. L'apprentissage des modèles comme les requêtes sont très coûteux du point de vue énergétique. Les effets peuvent être désastreux. Cependant, l'IA peut aussi contribuer à une meilleure soutenabilité, par exemple pour mieux réguler des flux énergétiques, notamment pour les énergies renouvelables, qui sont discontinues. Il faut faire de la pédagogie ; voyez le cas des compteurs Linky, qui ont suscité une forme de panique, alors qu'ils sont essentiels pour mieux gérer les consommations.

Mme Catherine Dufour. - Vos interrogations décrivent bien toutes les angoisses liées à l'IA. Le premier problème de l'IA, c'est son nom : l'IA n'est pas de l'intelligence ; en anglais, « intelligence » signifie « renseignement ». Nous aurions dû dire « apprentissage » ou « renseignement » artificiel. Une véritable intelligence implique d'avoir des perceptions, une mémoire associative, un modèle du monde, une capacité à se fixer des objectifs en fonction d'enjeux personnels. L'IA ne dispose pas de ces facultés ; elle reste un outil statistique.

J'ai vu l'informatisation déferler dans nos sociétés, pour le meilleur comme pour le pire. J'ai vu des secrétaires et des chargés de saisie se retrouver définitivement au chômage. Avec l'IA viendront les pertes d'emplois : après les cols bleus, les cols blancs y passent... Je connais nombre de traducteurs et d'illustrateurs qui, en un an, ont perdu l'intégralité de leur chiffre d'affaires. Je vois déjà du chômage de masse. Les conséquences seront sanglantes.

Nous sommes un peu effrayés par la vitesse à laquelle la science avance. Dès 1931, « Le Meilleur des mondes » parlait de modifications génétiques et de biotechnologies, ainsi que de leurs dangers. Ainsi, nous étions préparés quand les biotechnologies ont réellement émergé dans nos sociétés ; nous avons légiféré en amont. La fiction permet d'anticiper ce qui se passe dans les laboratoires. Aujourd'hui, nous n'avons plus cette capacité d'anticipation : quand j'ai une nouvelle idée, je constate sur Google qu'elle a déjà été réalisée. Les plus jeunes auteurs le disent aussi, nous nous prenons le mur du réel en plein visage. Notre science commence à aller plus vite que notre capacité de projection dans le champ social.

Enfin, les données, c'est de l'or dans notre poche, et cela fait longtemps qu'on nous les a volées ! L'État lui-même vend les données de votre carte grise à des traders. C'est pourquoi ceux qui manipulent les données personnelles, notamment les Gafam, nous font rêver, par exemple d'aller sur Mars, simplement pour nous détourner du fait qu'ils sont en train de fouiller l'or qui est dans notre poche, et qu'ils ont pris nos données sans rien nous rendre en échange, si ce n'est des rêves : voilà ce que l'on nomme la mythopoesis de la Silicon Valley.

M. Jean-Gabriel Ganascia. - Cependant, l'IA ne vise pas à recréer une machine. L'intelligence est un mot polysémique. On peut parler d'esprit ou d'ingéniosité, ou de renseignement. La traduction française reste exacte.

Cette conception de l'intelligence est introduite à la fin du XIX^e siècle : il s'agit alors de naturaliser la philosophie et d'étudier l'esprit avec les méthodes des sciences physiques. On suppose alors que l'esprit est un ensemble de facultés mentales. Hippolyte Taine, dans « De l'intelligence », a voulu étudier ces facultés cognitives : perception, mémoire, raisonnement, communication, avec une méthode scientifique expérimentale. L'IA reprend cette idée, avec l'ambition non seulement de réaliser des expériences, mais aussi de simuler ces facultés cognitives.

L'IA reste une discipline scientifique. Il faut l'expliquer et désamorcer les craintes. Il ne s'agit pas de créer un jour des machines qui auront une conscience.

Mme Catherine Dufour. - Il faut légiférer très vite, mais le chiffre d'affaires des Gafam est de 1 600 milliards d'euros, soit la moitié du PIB français. Les lois ne pourront plus rien, les Gafam font ce qu'elles veulent. Voilà le plus grand problème.

M. Pierre Jannin. - Tout va très vite, les développements scientifiques en laboratoire sont absolument vertigineux. Nous nous sommes laissé emporter dans le numérique sans véritable recul sur les limites et les impacts des technologies. Aujourd'hui, nous perdons le contrôle. Il est nécessaire de réfléchir, de s'arrêter un instant. Cela fait partie de notre responsabilité d'élus. Oui, il faudra légiférer et rester vigilant. On nous vend du rêve, des emplois, du développement économique, mais ne cédons pas à l'aveuglement.

Il faut systématiquement s'interroger sur les usages, et l'intérêt de telle ou telle solution. Il faut savoir quelle est la finalité : démocratique, sociale ou économique par exemple. On estime que les gains financiers sont de 20 % pour les smart cities, mais quel est le coût énergétique d'un tel gain ?

Il faut donc évaluer. Les performances de l'IA sont moyennes, voire mauvaises. En santé, en imagerie médicale, les performances ne sont pas bonnes. La transférabilité n'est pas satisfaisante. Par ailleurs, l'IA n'est pas explicable : on ne comprend pas les causes d'une décision, car ces modèles manipulent des milliards de paramètres que l'on ne peut pas décrire sous la forme d'une simple équation.

L'IA doit rester un assistant, ce qui ne va pas de soi. Nous avons tendance à céder à une forme de confiance excessive, par facilité. Voilà un biais humain courant.

Il n'est jamais trop tard pour légiférer, nous avons encore des marges de manoeuvre. Cependant, un État n'aura pas les moyens de développer les modèles de langage les plus avancés. Il faut donc que le public se réapproprie les questions du numérique comme service public. Je suis un partisan d'un service public du numérique qui puisse être contrôlé. Aujourd'hui, nos centres communaux d'action sociale (CCAS) connaissent de très longues files d'attente. Comment faire dans une société à deux ou trois vitesses ? Peut-être faudra-t-il freiner pour un temps.

Dans certains domaines, comme les automates, l'IA est utile. La vidéosurveillance algorithmisée, autorisée pendant les jeux Olympiques et Paralympiques, sera peut-être prolongée ; or c'est une porte ouverte à des dérives. Il relève de notre responsabilité d'élus de légiférer, de contrôler et de nous approprier l'ensemble de ces questions.

M. Louis-Jean de Nicolaÿ. - Dans la Sarthe, dans le cadre des territoires éducatifs ruraux (TER), nous avons choisi, avec l'Éducation nationale, de lancer une expérimentation sur l'intérêt de l'IA pour les collégiens, avec une volonté de la démocratiser. L'expérimentation prévoit une sensibilisation des élèves aux limites de l'IA générative et une formation des enseignants. Auriez-vous des conseils à nous donner ? La méthode est-elle la bonne ? Dans ce territoire, les inquiétudes sont grandes, notamment en matière de fake news, ou d'orientation des votes. Comment être le plus efficace possible ?

M. Bernard Delcros. - Vous avez établi un parallèle entre l'arrivée du numérique et celle de l'IA. Il faut en effet tirer des leçons de la numérisation de la société qui s'est opérée sans que l'on se préoccupe des risques qu'elle comportait. Elle a, par exemple, créé des fractures sociales et territoriales. L'arrivée de l'IA constitue une nouvelle transformation de la société dont la progression est exponentielle par rapport à celle du numérique et qui présente des risques encore plus grands, comme l'accaparement de l'outil par des entreprises peu scrupuleuses ou encore l'atteinte portée aux libertés fondamentales. Surtout, de nouvelles fractures sociales et territoriales sont à craindre. Quelles seraient les mesures d'accompagnement à prévoir pour éviter ces risques accrus ?

Mme Anne-Catherine Loisier. - L'IA est déjà partout dans notre quotidien. Nous appartenons tous, ici, à une génération qui est née sans le numérique et sans l'IA. Or les générations qui exerceront des responsabilités dans les années à venir n'auront connu que cela. Comment anticiper ce changement ? Par exemple, que pensez-vous des subventions que les collectivités territoriales consacrent au développement du numérique dans les écoles maternelles ?

M. Jean-Gabriel Ganascia. - Certes, il faut une bonne législation, mais trop légiférer n'est pas forcément la meilleure manière d'y parvenir. Le règlement européen sur l'IA est contestable : il se fonde sur le principe du risque, c'est-à-dire sur l'anticipation des dangers, mais est-ce bien pertinent, alors que les nouvelles technologies ne cessent de nous surprendre, de sorte que l'on ne peut rien prévoir ? De plus, il interdit certaines utilisations de l'IA, dont les techniques subliminales, alors que celles-ci ne sont qu'une fiction qui date des années 1950 et n'existent pas. Si on légifère, il faut bien le faire et les citoyens doivent pouvoir comprendre la loi.

Je vous remercie d'avoir mentionné l'expérimentation qui a lieu dans le sud de la Sarthe. J'ai participé à la commission chargée d'élaborer le programme de seconde en matière de technologie numérique. Le premier axiome qu'il fallait respecter était de faire plaisir à tous les membres de la commission, chacun d'entre eux ayant sa propre marotte, de sorte que le programme est devenu pléthorique. Le deuxième était de ne pas blesser les enseignants et pour cela, mieux valait ne pas leur donner le mode d'emploi du programme. Troisièmement, il n'y a eu aucune prise en compte des lycéens, alors qu'il faudrait au contraire lancer des expérimentations pour déterminer les modes d'appropriation des technologies par tel ou tel public.

Nous devons développer une culture de la vigilance. La situation évolue et il nous faut anticiper. Ce n'est pas en réactivant de vieilles craintes que nous obtiendrons l'adhésion de la population.

Quant aux craintes que suscitent les Gafam, elles relèvent d'un problème de souveraineté et des évolutions qui sont en cours dans ce domaine. Il est nécessaire d'avoir une réflexion de fond sur le sujet.

Mme Catherine Dufour. - J'ai assisté à des modules de formation sur les deepfakes destinés aux jeunes. Cela les intéressait beaucoup et ils en sortaient pour ainsi dire « vaccinés ». Les générations qui suivent la nôtre ont développé des anticorps que nous n'avons pas. Certains jeunes savent faire preuve d'une fluidité absolue pour éviter d'être piégés, en changeant d'adresse électronique tous les jours, par exemple. Ils agissent un peu comme des mutants...

Au sujet du risque de fractures sociales et territoriales, vous demandez quel remède trouver pour faire face au chômage de masse qui s'accentuera. Je n'en sais rien. Toutefois, si le développement de l'IA agit comme un accélérateur de cette tendance, on ne peut pas considérer qu'il en soit la seule cause. La robotisation visait d'abord à ce que l'être humain ait plus de temps pour ses loisirs, pas à ce qu'il y ait plus de chômage. Les causes profondes du problème sont politiques tout comme ses solutions.

M. Pierre Jannin. - La dépendance par rapport à l'outil et le risque de perte de compétences sont des sujets importants. En cas de panne ou de « hackage » de l'outil, comment maintenir le service public ? C'est un problème que nous devrons résoudre.

Il faut que tous les types de public soient sensibilisés au numérique et à l'IA. En interne, les agents des collectivités territoriales doivent être formés à l'usage, aux risques et aux limites de ces technologies. La solidarité envers les exclus qui représentent entre 10 % et 15 % de la population est essentielle.

Enfin, s'il faut éclairer nos concitoyens, il convient aussi de les consulter. Il ne s'agit pas de chercher l'acceptabilité à tout prix en les persuadant des bienfaits de l'IA, mais de cerner leurs attentes et leurs craintes. C'est un message que la France pourra porter lors du prochain sommet international sur l'IA qui se déroulera au mois de février prochain et auquel participeront de grands États qui ne pensent qu'à leurs intérêts financiers et économiques. Rien n'empêche de générer du business autour de technologies plus responsables et plus éthiques.

Mme Catherine Dufour. - Il y aura toujours des exclus. C'est votre rôle d'élus de les protéger des visées purement financières de ceux qui développent ces nouveaux outils. Votre responsabilité est grande !

Mme Corinne Féret, vice-présidente de la délégation aux collectivités territoriales et à la décentralisation. - Nous vous remercions de vos éclairages. Il est important que le Sénat se soit emparé de ce sujet éminemment présent dans nos territoires et dans notre quotidien. Nous devons continuer d'informer et de sensibiliser nos concitoyens pour faire face à l'aspect anxiogène de ces nouveaux outils.

M. Jean-Gabriel Ganascia. - Vous remplacerez ainsi l'inquiétude et la peur par la réflexion et la prospective.

Mme Christine Lavarde, présidente de la délégation à la prospective. - C'est bien là notre objectif.

---

* ¹ « A logical calculus of the ideas immanent in nervous activity » (Bulletin of Mathematical Biophysics, 1943).

* ² Cette surveillance humaine est d'ailleurs explicitement mentionnée dans la règlementation européenne dite « IA Act » (article 14) sur laquelle vos rapporteures reviendront plus en détail dans la Partie II. E. 1.

* ³ Sur la transparence des algorithmes, vos rapporteures renvoient par exemple à l'article « Algorithmes publics, transparence et démocratie » de Sylvie Thoron, professeure d'économie, spécialisée en théorie des jeux et en philosophie économique, à l'Université Paris-Est Créteil Val-de-Marne (UPEC) : https://theconversation.com/algorithmes-publics-transparence-et-democratie-98221

* ⁴ Transformateur pré-entraîné génératif de chat.

* ⁵ Sources : Rapport We Are Social/Meltwater/ Reuters/SimilarWeb ( 1) ( 2)/ Google/ Semrush/ Appfigures

* ⁶ Novembre 2023.

* ⁷ Cf. par exemple, Sénat, rapport d'information n° 909 (2021-2022), « À la recherche de l'État dans les territoires », d'Agnès Canayer et Éric Kerrouche, au nom de votre délégation.

* ⁸ Wintics est alors un sous-traitant de ces entreprises.

* ⁹ Cf. rapport national de l'Observatoire français de la biodiversité (OFB), juin 2023.

* ¹⁰ « Les déchets ménagers : un défi au quotidien pour les intercommunalités et un nouvel enjeu pour les régions », Cour des comptes, rapport public annuel, mars 2023.

* ¹¹ Sénat, rapport d'information n° 87 (2023-2024), au nom de votre délégation.

* ¹² La « mission ESPADA » est un système interne à la ville d'Évaluation et de Suivi des Précipitations en Agglomération pour Devancer l'Alerte (ESPADA).

* ¹³ www.fredzone.org/transition-ia-entreprises-commencer-arn567, rapport précité.

* ¹⁴ Sénat, rapport d'information n° 520 (2021-2022), déposé le 17 février 2022.

* ¹⁵ Cf. Sénat, rapport n° 199 (2020-2021) de Catherine Deroche, Bernard Jomier et Sylvie Vermeillet, au nom de la commission d'enquête sur l'évaluation des politiques publiques face aux pandémies, « Santé publique : pour un nouveau départ - Leçons de l'épidémie de covid-19 », déposé le 8 décembre 2020.

* ¹⁶ Cf. Sénat, rapport d'information n° 135 (2023-2024) de Françoise Gatel, alors présidente de votre délégation, « Hausse du coût de l'énergie et inflation : difficultés conjoncturelles ou crise structurelle pour les collectivités territoriales ? », déposé le 20 novembre 2023.

* ¹⁷ Septembre 2023.

* ¹⁸ Training a single AI model can emit as much carbon as five cars in their lifetimes, Karen Hao, 2019.

* ¹⁹ « Making AI Less “Thirsty": Uncovering and Addressing the Secret Water Footprint of AI Models », Pengfei Li, Jianyi Yang, Mohammad A. Islam, Shaolei Ren, 2023.

* ²⁰ « Évaluation de l'impact environnemental du numérique en France - Analyse prospective à 2030 et 2050 », ADEME-ARCEP (janvier 2023).

* ²¹ Google, Apple, Facebook, Amazon et Microsoft.

* ²² Décembre 2019.

* ²³ Étude à la demande du Premier ministre, adoptée le 31 mars 2022 (p. 149).

* ²⁴ Directive (UE) 2022/2555 du Parlement européen et du Conseil du 14 décembre 2022 concernant des mesures destinées à assurer un niveau élevé commun de cybersécurité dans l'ensemble de l'Union, modifiant le règlement (UE) n° 910/2014 et la directive (UE) 2018/192, et abrogeant la directive (UE) 2016/1148 (directive SRI 2), dite NIS 2.

* ²⁵ « Collectivités territoriales - synthèse de la menace » (ANSSI, février 2025).

* ²⁶ Groupement d'intérêt public Action contre la Cybermalveillance (GIP ACYMA), issu de la stratégie numérique du Gouvernement présenté le 18 juin 2015.

* ²⁷ Sénat, rapport d'information n° 283 (2021-2022), déposé le 9 décembre 2021.

* ²⁸ Avis n° 2024-03 du 21 mai 2024 sur le projet de loi relatif à la résilience des activités d'importance vitale, à la protection des infrastructures critiques, à la cybersécurité et à la résilience opérationnelle numérique du secteur financier (CSNP, 21 mai 2024).