B. UN BILAN OPÉRATIONNEL CONTRASTÉ
1. Des conditions de mise en oeuvre qui n'ont pas permis de déployer tout le potentiel de l'expérimentation
Dès le démarrage de l'expérimentation, lancée dans un calendrier très contraint, le ministère de l'intérieur a procédé à deux choix structurants qui ont d'emblée limité ses potentialités : la renonciation, d'une part, à l'usage de drones, et, d'autre part, au recours à des traitements algorithmiques reposant sur l'auto-apprentissage, technologie de nature à permettre l'amélioration des performances de la solution au gré de son utilisation. Cette dernière soulèverait néanmoins des questions de fond quant à l'usage des données et au respect des libertés publiques.
Les conditions de passation du marché ont également posé une limite supplémentaire, en ne retenant que trois prestataires : les sociétés Wintics, Videtics et ChapsVision. In fine, seules deux solutions ont été expérimentées.
Quatre services utilisateurs ont mis en oeuvre ces solutions :
- la préfecture de police de Paris pour les JOP, le Nouvel An et divers autres grands événements sportifs et concerts de musique ;
- la SNCF pour les JOP, le relais de la flamme olympique, le Festival Solidays, divers grands événements sportifs et les marchés de Noël ;
- la RATP pour les JOP, la Fête de la musique, la Fête nationale, divers autres grands événements sportifs et concerts de musique ;
- la commune de Cannes, notamment pour le Festival de Cannes et le marché de Noël.
Compte tenu des clauses de l'accord-cadre, les services utilisateurs n'ont pas eu la possibilité de choisir la solution à expérimenter : la préfecture de police, la SNCF et la RATP ont expérimenté la solution de la société Wintics et la ville de Cannes a été la seule à employer celle de la société Videtics.
Alors que la phase paramétrage des traitements s'est avérée déterminante pour le bon fonctionnement du dispositif, les services utilisateurs ont souligné qu'il était très contraint, y compris dans sa durée, par l'exigence d'une supervision permanente d'un agent du ministère de l'intérieur.
Une autre limite tient à la brièveté de la période d'expérimentation, accentuée par la durée des événements pour lesquels elle a été mise en oeuvre. Si les JOP ont permis le déploiement opérationnel des logiciels durant 29 jours, les autres manifestations concernées ont rarement duré plus de deux ou trois jours.
En somme, selon les données compilées par le comité d'évaluation, le dispositif aura été mis en oeuvre, tous utilisateurs confondus, à 47 reprises, pour une trentaine de manifestations et dans environ 70 lieux et au moyen d'environ 800 caméras. Son coût budgétaire global, tous utilisateurs confondus, s'est établi à environ 0,9 million d'euros.
|
Services utilisateurs |
Solutions expérimentées |
Nombre d'expérimentations |
 |
 |
 |
2. Malgré des performances très variables selon les cas d'usage, un intérêt des services utilisateurs qui demeure
Au préalable, il convient de relever que l'intérêt du recours à la vidéoprotection algorithmique présente un intérêt moindre lorsque les moyens humains sur le terrain sont conséquents, comme ce fut le cas lors des JOP, qui ont entraîné une mobilisation exceptionnelle des forces de l'ordre. La présence renforcée des agents sur la voie publique et dans les transports emporte non seulement des effets dissuasifs, mais permet également de mieux détecter les risques pour la sécurité des personnes, diminuant d'autant l'intérêt de signalements obtenus au moyen de l'IA.
De manière générale, tant les travaux conduits par les rapporteures que le comité d'évaluation ont mis en évidence une performance très variable du dispositif selon les cas d'usage pour lequel il a été utilisé. Dans le cadre de la mise en oeuvre des solutions expérimentées, les performances se sont ainsi avérées :
- globalement satisfaisantes pour détecter l'intrusion dans une zone non autorisée, la circulation dans un sens non autorisé et la densité trop importante de personnes (voir exemples de signalements infra) ;
- incertaines pour détecter les mouvements de foule (très peu de signalements) ;
- inégales pour détecter des objets abandonnés ainsi que pour détecter le port d'armes (testé uniquement par la commune de Cannes) ;
- très insatisfaisantes pour détecter des départs de feu et la présence d'une personne au sol.
Exemples de signalements dans le cadre d'expérimentations mises en oeuvre par la SNCF
Source : SNCF
In fine, les événements détectés par l'IA n'ont donné lieu qu'à de peu nombreuses interventions sur le terrain : on en dénombre une seule par la préfecture de police et sept par la SNCF principalement pour des cas d'intrusion et plus rarement pour des objets abandonnés.
Pour autant, le nombre d'interventions ne saurait constituer la seule mesure de l'efficacité du dispositif, qui repose fondamentalement - et indépendamment de la réponse opérationnelle apportée, qui peut en pratique se limiter à une simple levée de doute - sur la qualité des signalements remontés, encore inégale, et l'« aide à la décision » qu'ils sont susceptibles d'apporter à l'opérateur.
À cet égard, les rapporteures relèvent que tous les services utilisateurs plaident pour la pérennisation de ce dispositif ou, a minima, pour une prolongation.
3. Une mise en oeuvre globalement conforme au cadre fixé
La mise en oeuvre de l'expérimentation a fait l'objet d'un contrôle vigilant opéré par la Cnil. Ceux-ci ont concerné le ministère de l'intérieur, les prestataires (Wintics et Videtics) ainsi que la RATP et la SNCF. Au total, 6 contrôles ont été menés au cours d'expérimentations durant les JOP, complétés de 3 contrôles a posteriori ou post-JOP. Ils ont porté sur la conformité des dispositifs au cadre juridique, les modalités d'information du public, l'existence d'une analyse d'impact ainsi que sur les mesures prises pour garantir la sécurité et la confidentialité des données collectées et traitées. Si ces dossiers sont toujours en cours d'instruction, la Cnil a confirmé aux rapporteures que, d'une manière générale, les contrôles ont permis de constater que les dispositifs mis en oeuvre étaient conformes, dans leur utilisation, aux cas d'usage prévus par la loi.
Le rapport du comité d'évaluation, présidé par Christian Vigouroux, a considéré que les expérimentations mises en oeuvre ont respecté les différentes exigences procédurales, les conditions de fond posées par la loi, ainsi que les exigences de confidentialité des données conservées. Un cas de manquement à la procédure a néanmoins été constaté, la publication de l'arrêté du préfet de police autorisant le traitement pour le début des épreuves olympiques étant intervenue cinq jours après sa mise en oeuvre, alors même que celui-ci avait été signé à temps. La préfecture a regretté ce retard auprès du comité, qui serait dû à un dysfonctionnement interne dans une période de très forte activité.