Intelligence artificielle et vidéosurveillance : les jeux sont-ils faits ?
La vidéosurveillance algorithmique (VSA) consiste à traiter les images de vidéosurveillance avec des programmes d’intelligence artificielle pour détecter automatiquement des personnes ou des situations. Elle permet d’intensifier la vidéosurveillance en multipliant le nombre d’images analysées en temps réel.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Elle permet d’intensifier la vidéosurveillance en multipliant le nombre d’images analysées en temps réel.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
En France, la loi relative aux jeux olympiques et paralympiques (JOP) du 19 mai 2023 a légalisé le recours à l’intelligence artificielle (IA) pour la vidéosurveillance de grands événements, à titre expérimental de mai 2023 à mars 2025.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Au delà des Jeux de 2024, la loi permet ainsi de tester la VSA pour toutes les « manifestations sportives, récréatives ou culturelles particulièrement exposées à des risques d’actes de terrorisme ou d’atteintes graves à la sécurité des personnes ».
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Un rapport devait être remis au Parlement en décembre 2024 pour évaluer les performances techniques de la VSA et ses effets sur les libertés publiques.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Sans attendre le rapport d’évaluation, ni même la fin de l’expérimentation, le préfet Laurent Nuñez et le Premier ministre Michel Barnier se sont déclarés favorables à la généralisation de la vidéosurveillance algorithmique en septembre et octobre 2024.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Les technologies d’IA comportent pourtant des risques désormais bien identifiés : biais, reproduction de stéréotypes racistes ou sexistes, marge d’erreur, opacité des méthodes et des chaînes de production et impossibilité d’expliquer les résultats produits par les IA les plus complexes.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Même si la loi n’autorise pas la reconnaissance faciale, la VSA expérimentée depuis 2023 fait entrer l’opacité et les risques propres à l’IA dans la surveillance des personnes et de l’ordre public.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Aux termes de la loi, les fournisseurs ne sont pas tenus d’indiquer précisément le fonctionnement de leurs algorithmes, ni les raisons pour lesquelles leur programme génère telle ou telle alerte, ni les éléments garantissant l’absence de biais et de stéréotypes dans le traitement des images.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Ce sont pourtant ces entreprises qui entraînent les IA à distinguer les situations considérées comme “normales” et “anormales” dans l’espace public.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
La puissance publique semble donc se résigner à l’utilisation d’outils “boîte noire” dont elle ne maîtrise pas le fonctionnement et qu’elle n’est pas en mesure de contre-expertiser. Une telle situation n’est pas acceptable concernant la surveillance de l’espace public et des populations.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
L'utilisation généralisée de la VSA pose également des problèmes écologiques et budgétaires. L’entraînement des modèles d’IA et leur utilisation génèrent une énorme consommation d’eau et d’électricité.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Le marché public concernant l’expérimentation de la VSA, initialement estimé à 2 millions d’euros, a atteint 8 millions d’euros. Au-delà, le coût d’entretien de la VSA sera difficile à maîtriser pour l’Etat et les collectivités, techniquement dépendants de fournisseurs spécialisés et peu nombreux.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Au sein de budgets toujours plus contraints, le coût de la VSA pourrait ainsi diminuer la dimension humaine des politiques de sécurité et augmenter leur dimension technologique, au profit de programmes aux performances par ailleurs très incertaines.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Loin de l’enthousiasme affiché par le préfet de police, le rapport d’évaluation remis au gouvernement le 14 janvier fait écho à ces inquiétudes en soulignant des performances “très inégales” et un “risque d’accoutumance” à la VSA pour les pouvoirs publics.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Nous appelons donc à une forte vigilance face au déploiement de la VSA. Alors que l’IA est testée dans un domaine fondamental pour nos libertés, la loi a prévu des garanties bien trop faibles concernant la transparence des logiciels et l’explicabilité de leurs résultats.
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Pour en savoir plus, vous pouvez lire notre billet sur le sujet en intégralité ici : https://blogs.mediapart.fr/collectif-nos-services-publics/blog/300125/intelligence-artificielle-et-videosurveillance-les-jeux-sont-ils-faits
=> More informations about this toot | More toots from nosservicespublics@piaille.fr
Et pour nous rejoindre, c'est ici 😉
https://nosservicespublics.fr/nous-rejoindre
=> More informations about this toot | More toots from nosservicespublics@piaille.fr This content has been proxied by September (3851b).Proxy Information
text/gemini
