Caméras augmentées : faut-il libérer l’intelligence artificielle ?
Devant le développement des usages des dispositifs de vidéo « intelligente » ou « augmentée » dans les lieux ouverts au public, la Cnil a lancé une consultation publique sur le sujet début 2022. Avec les échéances électorales en ligne de mire, les enjeux entourant un tel déploiement sont à la fois nombreux et épineux.
La consultation de la Cnil
La Cnil a lancé en janvier 2022 une consultation sur son analyse éthique, technique et juridique des caméras augmentées ou intelligentes, avec la possibilité pour tout un chacun de répondre au questionnaire jusqu’au 11 mars de la même année. On ignore à ce jour le nombre de répondants et le contenu des réponses. Mais la Commission nationale de l’informatique et des libertés ne devrait sans doute pas tarder à rendre publics ces éléments.
Elle justifie cette consultation par la multiplication des caméras intelligentes ou augmentées. Il est vrai que l’usage de ces appareils s’est développé de manière exponentielle ces dernières années puisque les caméras permettent de détecter automatiquement un grand nombre de situations. Par exemple des personnes portant un masque, un client dans un hypermarché qui tente de dissimuler discrètement un produit dans son manteau, etc. Mais, il est fort probable qu’elle veuille peser, voire influer, sur le futur règlement européen sur l’intelligence artificielle (IA) qui fait l’objet de débats nombreux et musclés.
La Cnil a limité le champ d’application de la consultation puisque celle-ci porte sur les « dispositifs, fixes ou mobiles, déployés dans les espaces publics à l’exclusion des dispositifs de reconnaissance biométrique » sur lesquels elle s’est déjà prononcée en 2019.
Les multiples fonctions des caméras augmentées
Dans un système de caméras de vidéosurveillance habituel, l’image est regardée par un nombre limité de personnes situées derrière plusieurs écrans. Elles peuvent en tirer les conséquences pour, par exemple, lever un doute sur une intrusion dans un immeuble surveillé ou pour décider d’envoyer un agent de sécurité.
Les caméras augmentées ou intelligentes traitent de manière systématique et automatisée les images filmées. Ce qui permet de décupler les capacités d’analyse du système de vidéosurveillance.
La Cnil donne plusieurs exemples : la détection automatisée de situations permettant de présumer la commission d’infractions (stationnement interdit, circulation en contresens, dépôt sauvage d’ordures…), ou encore d’événements « suspects » ou potentiellement dangereux (attroupements d’individus, présence anormalement longue d’une personne dans des lieux et à des moments donnés, expressions faciales, comportements traduisant un état d’angoisse…).
Lors des projets d’ouverture de voies réservées au covoiturage sur le réseau routier public, il a été envisagé de filmer les voitures pour compter le nombre de passagers et pour verbaliser en cas d’infractions.
Des appréhensions
Les caméras augmentées présentent un danger supplémentaire par rapport aux anciens modèles, car elles sont très faciles à reparamétrer. La Cnil craint même que les caméras augmentées puissent conduire à un système de surveillance généralisée, à la chinoise.
Il faut donc brosser dans un premier temps le portrait de la législation applicable et de celle manquante.
Le code de la sécurité intérieure comporte de nombreuses dispositions sur la vidéoprotection, mais elles ont toutes été rédigées et écrites à une époque où les caméras étaient dépourvues d’intelligence.
La Cnil, et ce n’est une surprise pour personne, soutient que les caméras augmentées relèvent du RGPD.
Tout traitement de données doit avoir une finalité légitime. Ce qui, pour la Commission, n’est pas le cas par exemple des dispositifs qui analysent le comportement et les émotions des personnes sur la base de la détection de leurs gestes et expressions, ou de leurs interactions avec un objet. Et, à défaut de finalité légitime, il faut trouver d’autres bases légales comme le consentement des personnes.
Le responsable du traitement devra justifier de la nécessité d’utiliser des systèmes de vidéo « augmentée ». Notamment par l’évaluation de l’existence ou non de moyens alternatifs permettant d’atteindre les finalités envisagées.
Respecter la vie privée
Et il faut toujours rechercher un équilibre entre la protection de la vie privée et le gain que l’on peut espérer des caméras augmentées.
Le principe de transparence oblige donc à informer les personnes filmées du caractère « augmenté » des caméras et les finalités qu’elles poursuivent. Il faut sans doute, dès à présent, compléter les panneaux annonçant l’utilisation de caméras augmentées, pour avertir le public et la clientèle de la finalité du traitement et du droit d’opposition.
Les caméras augmentées n’échappent pas à la réalisation d’une analyse d’impact relative à la protection des données (AIPD) telle qu’elle est prévue au RGPD. La Cnil précise que cette AIPD devra par ailleurs être soumise à sa consultation obligatoire pour les traitements qui seraient mis en œuvre par une autorité compétente (visée à l’article 90 de la loi Informatique et Libertés) et à des fins de prévention et de détection des infractions pénales.
En principe, la personne filmée par une caméra augmentée pourrait faire valoir son droit d’opposition et pouvoir s’opposer au traitement. Mais ce principe apparaît bien théorique.
De surcroît, le RGPD a précisé qu’il était possible de s’affranchir de ces contraintes notamment sur la base de son article 23. Celui-ci prévoit quelques exceptions liées, par exemple, à la sécurité nationale, à la défense nationale, à la sécurité publique… Il faut donc un cadre légal mieux défini pour ces exceptions.
La Cnil insiste ensuite longuement sur les traitements effectués à des fins statistiques et sur les conséquences que cela pourrait avoir sur l’application du RGPD. Ainsi, elle considère que cela signifie que le droit d’opposition pourrait être exclu si l’exercice de celui-ci empêche l’obtention de résultats statistiques fiables (les résultats statistiques seraient faussés ou inutilisables du fait de l’exercice de ce droit par une partie des personnes concernées).
Les apports de cette technologie en matière de sécurité
Les professionnels d’une manière générale reprochent à la Cnil de considérer que tout ce qui n’est pas expressément autorisé est interdit. Et de brider de manière inconsidérée leurs activités (lire par exemple la réponse de l’AN2V à la consultation publique de la Cnil sur les caméras intelligentes).
Et à l’inverse de la Cnil, il faudrait partir du principe que l’utilisation des caméras augmentées, si elles présentent des risques – et ce n’est pas contestable – est sans doute dans un grand nombre de situations d’un apport précieux. Les caméras peuvent contribuer à plus de sécurité.
De multiples exemples pourraient être cités :
- la verbalisation des franchissements de feux rouges, en cas de non-respect de passages cloutés alors que des piétons s’y sont engagés ;
- les débordements de personnes sur la rue ou sur les rails ;
- les chutes dans l’eau ;
- la détection d’une personne sortant une arme à feu ;
- etc.
« Les professionnels d’une manière générale reprochent à la Cnil de considérer que tout ce qui n’est pas expressément autorisé est interdit, et de brider de manière inconsidérée leurs activités. »
En conclusion
Les propositions de la Cnil apparaissent à bien des égards incomplètes. Si l’on veut que la France conserve son potentiel technologique en IA, il faut prévoir des possibilités d’expérimentation importante, ce qu’envisage le futur règlement européen sur l’IA.
Ce futur règlement européen distingue notamment les systèmes à haut risque – qui seront étroitement contrôlés – des IA plus communes. Et de manière symétrique, il faudrait donc limiter la compétence de la Cnil à la vidéo augmentée avec identification des personnes, des caractéristiques religieuses ou ethniques.
Par ailleurs, dans le prolongement de cette consultation, il serait utile de mettre un peu de cohérence dans les différents textes qui s’entrechoquent et se contredisent. Ou de mettre fin à des situations ubuesques entre la vidéo dans les espaces publics et les espaces privés.
À noter également que la proposition de la Cnil ne traite pas des métadonnées, c’est-à-dire des données créées par les caméras augmentées.
Compte tenu des risques que présentent les caméras augmentées sur l’espace public, elles ne devraient être autorisées que si elles concourent à assurer une meilleure sécurité des biens et des personnes et pour quelques autres usages. Elles devraient être interdites en revanche pour les usages de verbalisation uniquement comme ce qui est envisagé pour le covoiturage.
Article extrait du n° 582 de Face au Risque : « POI-PDI : être opérationnel » (mai 2022).
Thibault du Manoir de Juaye
Avocat à la Cour, spécialiste de la sécurité et de la sûreté dans l’entreprise
Les plus lus…
Le bureau d’analyse des risques et des pollutions industrielles (Barpi) a publié un nouveau flash Aria dédié aux travaux par…
-
La roue de Deming est une méthode d’amélioration continue symbolisée par une roue progressant sur une pente dans un…
-
Alors que les entreprises devant contrôler l’identité de leurs clients font évoluer leurs méthodes de vérification, les fraudeurs s’adaptent et…
-
Lancée le 17 décembre, la plateforme 17Cyber ambitionne de devenir le nouveau réflexe pour les victimes de cybermalveillance en France.…
-
L’intelligence artificielle connait une dynamique importante en termes d’implémentation, notamment depuis l’arrivée des « modèles de langages conversationnels ». Elle…
-
La directive (UE) 2024/3019 du Parlement européen et du Conseil du 27 novembre 2024 relative au traitement des eaux…
