Reversed Surveillance

En janvier 2023, le gouvernement français a adopté une loi autorisant l’utilisation de la surveillance vidéo algorithmique (SVA) comme mesure légale de contrôle des foules pour tout rassemblement de plus de 300 personnes. 

Cette technologie est mise en place pour automatiser le processus de détection de la criminalité, car elle est capable de capturer des caractéristiques qui échappent à l’œil humain. L’intelligence artificielle décide qui est suspect et qui ne l’est pas. La reconnaissance des émotions est similaire à la reconnaissance faciale, mais au lieu de se concentrer sur la reconnaissance d’identité, son objectif est de décoder l’état émotionnel interne de la personne. Dans ce cas, l’intelligence artificielle est formée pour détecter, analyser et décoder les schémas comportementaux humains associés aux émotions.

À partir d’une diffusion en direct de trois heures d’une récente manifestation en France, l’artiste utilise le logiciel d’analyse de contenu vidéo pour analyser la foule et discerner les visages de plus de 30 000 personnes. En utilisant une IA formée pour reconnaître 7 expressions faciales associées à des émotions déterminées, l’artiste catégorise les manifestants en fonction de l’état émotionnel qui leur a été attribué par l’intelligence artificielle. Ce processus lui permet de visualiser comment l’IA interprète une manifestation. Il n’existe actuellement aucun enregistrement de l’utilisation de la reconnaissance des émotions dans les décisions affectant les manifestants. Cependant, cette technologie est largement utilisée par les entreprises pour surveiller leurs employés.

La nature en constante évolution des technologies de surveillance, combinée à la normalisation résultant de la facilité avec laquelle ces technologies sont introduites au niveau législatif, pose une menace pour le droit de réunion, de protestation et de parole. Cela devient extrêmement préoccupant lorsque la technologie est chargée de décoder quelque chose de la nature humaine et est utilisée pour prendre des décisions basées sur la probabilité plutôt que sur des événements. En fin de compte, Marcel Top crée un outil de reconnaissance faciale pour identifier les policiers lors des manifestations. En exploitant la puissance des technologies de surveillance, Top tente de créer de nouveaux outils pour exposer le danger de ces technologies ainsi que pour les utiliser à notre avantage.