Le mois dernier, le Financial Times a révélé que des caméras de reconnaissance faciale avaient été utilisées pour identifier les piétons dans le quartier de Granary Square du nouveau complexe de Kings Cross à Londres entre 2016 et 2018.
Argent, le développeur et gestionnaire d’actifs chargé de la conception et de la livraison du site, a admis avoir utilisé deux caméras de vidéosurveillance équipées de la technologie biométrique pour cartographier les traits du visage. Ces caméras ont ensuite diffusé ces informations dans une base de données fournie par le Metropolitan Police Service pour vérifier les correspondances.
Le domaine de Kings Cross est un complexe privé, mais qui est utilisé par des milliers de membres du public tous les jours. En plus de plus de 2 000 maisons, la région abrite une variété de boutiques, d’hôtels et de salles de musique, ainsi que la Central Saint Martins School of Art de renommée mondiale.
À juste titre, il y a eu un tollé général concernant l’utilisation secrète de cette technologie. Le bureau du commissaire à l’information (ICO) a lancé une enquête ultérieure, tandis que le maire de Londres, Sadiq Khan, a écrit au PDG du développement pour lui demander une explication.
Bien qu’elle ait retenu l’attention de la presse, Kings Cross n’est qu’un exemple de la manière dont la technologie de reconnaissance faciale est déployée dans les espaces publics de Londres. Le mois dernier, l’Evening Standard a révélé qu’un permis de construire a été accordé par la City of London Corporation pour la mise en place de caméras de surveillance avancées au Barbican Center, où 16 des 65 nouvelles caméras seront capables de reconnaître les visages et posséderont une fonctionnalité audio façon – permettant potentiellement aux contrôleurs d’écouter « .
Entre-temps, des projets similaires ont été approuvés dans les grands magasins Liberty à Soho et Hay’s Galleria sur la rive sud. Le Financial Times a également présenté des propositions pour l’installation de caméras de reconnaissance faciale privées dans le domaine de 92 acres à Canary Wharf.
Le même article a noté: les dépanneurs tels que Budgens et les supermarchés – y compris Tesco, Sainsbury’s et Marks and Spencer – ont tous des caméras qui sont déjà, ou seront bientôt, capables de reconnaissance faciale ».
Tout comme nous avons été normalisés aux 500 000 caméras de vidéosurveillance fonctionnant à travers Londres aujourd’hui, la reconnaissance faciale pourrait bientôt devenir une norme omniprésente de la vie quotidienne au 21e siècle.
Alors, quelle est la logique?
Malgré les affirmations d’entreprises privées selon lesquelles cette technologie est introduite uniquement « pour assurer la sécurité publique », les recherches du groupe d’activistes indépendant à but non lucratif Big Brother Watch montrent qu’en moyenne, les caméras biométriques actuelles identifient incorrectement les individus à plus de 90% du temps.
Dans ses recherches, Big Brother Watch a constaté que les correspondances de reconnaissance faciale de la police métropolitaine étaient 98% inexactes, tandis que la même technologie utilisée par la police du sud du Pays de Galles n’a pas réussi à trouver une correspondance correcte dans 91% des cas.
Donc, si la technologie actuelle n’est pas utile pour identifier les criminels, pourquoi les entreprises la déploient-elles dans toute la capitale? Les entreprises privées ont-elles actuellement des problèmes de sécurité si insurgés que le test de la technologie de reconnaissance faciale est une violation nécessaire de la vie privée des individus?
Une autre explication de cette insistance est la monétisation potentielle de données précieuses inhérentes à la technologie de surveillance.
Dans notre économie moderne, les données sont devenues une ressource économique précieuse. Une fois agrégées et affinées, les collections de données peuvent créer de puissants modèles prédictifs du comportement humain, qui fournissent des informations précieuses pour guider les décisions commerciales.
Dans son récent livre, «The Age of Surveillance Capitalism», Shoshana Zubouff a popularisé les discussions sur la façon dont cela se joue dans notre économie numérique moderne. Elle explique comment la valeur de cette nouvelle ressource a conduit à une course à l’extraction des données, les entreprises technologiques utilisant les plateformes numériques comme moyen d’engagement des utilisateurs, et donc un mécanisme de génération de données.
Cela a conduit à des techniques de surveillance secrètes sur le marché en ligne, où les sites utilisés par les membres du public sont détenus et interrogés par des entreprises privées. Il est maintenant devenu courant d’entendre Google utiliser vos recherches individuelles pour vendre des publicités ciblées, Twitter promouvoir le contenu de votre flux en fonction de qui vous suivez, ou les données Facebook sont grattées pour améliorer les campagnes politiques.
Mais si la centralité des données dans les modèles commerciaux des entreprises technologiques est bien documentée, la collecte de données dans un espace physique privé est un phénomène relativement inexploré.
Tout comme les entreprises technologiques contrôlent une grande partie de l’Internet public, la propriété des espaces ouverts est de plus en plus assumée par des sociétés privées. En 2017, The Guardian a publié une carte de ce qu’il a appelé la croissance des espaces «pseudo-publics» à Londres – «des lieux ouverts et accessibles au public qui sont détenus et entretenus par des développeurs privés ou d’autres entreprises privées».
De la même manière que la propriété des plateformes en ligne est utilisée comme espace pour collecter des informations personnelles, ces espaces physiques pourraient bientôt devenir les mines de données réelles des entreprises privées.
Ici, la surveillance visuelle joue un rôle de premier plan. Si une entreprise est en mesure d’identifier même la démographie approximative des piétons dans des zones telles que Kings Cross, elle peut vendre ces informations comme des informations précieuses aux entreprises, permettant des décisions éclairées sur des questions telles que l’emplacement, les heures d’ouverture ou les publicités.
Une technologie de reconnaissance faciale plus avancée peut être en mesure d’identifier l’individu et de conseiller les entreprises qui souhaitent adapter leurs produits en temps réel.
Une fois perfectionné, le potentiel ultime ici est que la reconnaissance faciale associe un individu à son profil numérique en ligne, connectant les données physiques à son homologue numérique. Cela permettrait un contrôle précis des entreprises, modifiant les affichages tels que les publicités numériques en réponse à des informations détaillées sur leur public particulier.
En bref, tout comme les grandes entreprises technologiques utilisent les données pour adapter notre interaction avec le monde numérique, la technologie de reconnaissance faciale présuppose un monde physique panoptique de perception administrée.
Ressemblant à un cauchemar dystopique farfelu? Ce n’est pas le cas.
Un récent rapport du Carnegie Endowment for International Peace a révélé que «la technologie de surveillance de l’IA se propage à un rythme plus rapide dans un plus large éventail de pays que les experts ne le croient généralement».
Selon le résumé du rapport, «au moins soixante-quinze pays sur 176 dans le monde utilisent activement les technologies de l’IA à des fins de surveillance. Cela comprend: les plateformes de ville intelligente / ville sûre (cinquante-six pays), les systèmes de reconnaissance faciale (soixante-quatre pays) et la police intelligente (cinquante-deux pays). »
La distribution la plus importante de cette technologie est assurée par des entreprises chinoises, qui fournissent des technologies de surveillance de l’IA dans 63 pays. Trente-deux pays sont approvisionnés en technologies similaires par des sociétés basées aux États-Unis.
Il existe de nombreux exemples de la façon dont cette technologie de surveillance est utilisée pour la datafication.
Aux États-Unis, une société appelée Cooler Screens a intégré des produits avec des capteurs et des écrans numériques pour cibler individuellement les publicités des clients. Walgreens déploie maintenant cette technologie, qui cherche à analyser l’âge, le sexe, le temps passé sur Internet et même les réponses émotionnelles d’un client.
Des technologies similaires ont été découvertes dans des centres commerciaux au Canada en 2018, lorsque le média CBC a signalé que la reconnaissance faciale avait été utilisée pour prédire l’âge et le sexe approximatifs des clients. La technologie n’a été découverte que lorsqu’un «visiteur du Chinook Centre dans le sud de Calgary a repéré une fenêtre de navigateur qui avait apparemment été accidentellement laissée ouverte sur l’un des répertoires du centre commercial».
L’application FindFace FindFace, lancée en Russie en 2016, a peut-être été la plus pertinente pour explorer la datafication de la reconnaissance faciale, permettant de trouver le profil d’un individu sur les réseaux sociaux simplement en capturant une image de son visage. En 2016, The Independent a rapporté que «les créateurs de FindFace travaillent avec la police de Moscou pour intégrer leur logiciel dans le réseau de caméras de vidéosurveillance de la ville, afin que les autorités soient en mesure de détecter les suspects recherchés lorsqu’ils marchent dans la rue». FindFace n’est plus ouvert au public, mais une société similaire SearchFace opère désormais en Russie.
Chacun de ces cas démontre la capacité des caméras de surveillance à faire avancer les mécanismes de datafication dans le monde réel, à analyser, contextualiser et marchandiser nos données physiques.
La menace que cela représente pour notre droit à la vie privée est évidente, mais elle sape également le libre arbitre de l’individu en niant la notion d’espace véritablement public. Au fond, cette marchandisation menace de déposséder les humains de leur indépendance au nom de la «commodité» et, ce faisant, remet en question la notion même de liberté individuelle.
Alors, que faire?
Au Royaume-Uni, l’utilisation de la technologie de reconnaissance faciale pour surveiller les membres du public à des fins commerciales est illégale sans préavis. Ceci est conforme au règlement général sur la protection des données de l’UE, qui tente de faire reculer la datafication des biens communs sociaux en obligeant les entreprises privées à obtenir le consentement explicite des individus avant la collecte de données personnelles sensibles.
Selon une décision de la Cour suprême rendue à Cardiff au début du mois, l’utilisation de la reconnaissance faciale par la police est autorisée, bien que les juges reconnaissent que cette technologie porte atteinte aux droits fondamentaux à la vie privée.
À l’heure actuelle, il n’y a pas de freins et contrepoids sur l’utilisation de la reconnaissance faciale par les entreprises privées, si elles sont émises dans le cadre d’une stratégie de sécurité.
Pourtant, à mesure que la prévalence et la sophistication des technologies de surveillance sont mises à jour, beaucoup commencent à contester cette réalité.
En juillet, le Commons Select Committee on Science and Technology a publié un rapport du commissaire à la biométrie et du Forensic Science Regulator qui demandait «un moratoire sur l’utilisation actuelle de la technologie de reconnaissance faciale» et a noté qu ‘«aucun autre essai ne devrait avoir lieu avant un cadre législatif a été introduit et des orientations sur les protocoles d’essai, ainsi qu’un système de contrôle et d’évaluation, ont été mis en place ».
Dans le même esprit, le groupe de défense des droits humains Liberty a lancé une pétition demandant au ministre de l’Intérieur d’interdire l’utilisation de la technologie de reconnaissance faciale dans les espaces publics. Ils ont également l’intention de faire appel de la décision de la Haute Cour contre l’utilisation légale de la surveillance biométrique par la police.
Aux États-Unis, Bernie Sanders est le premier candidat démocrate de 2020 à promettre une interdiction de toutes les technologies de reconnaissance faciale par la police, faisant pression sur les autres pour qu’ils adoptent une position plus ferme contre la surveillance secrète.
Ces réponses sont le début d’un contrecoup bien nécessaire contre la technologie invasive et la potentielle datafication de la sphère publique. Tout comme une lutte acharnée a commencé rétrospectivement pour le droit humain à l’autonomie dans les biens communs numériques, une bataille doit maintenant commencer pour nos droits individuels dans l’espace physique.
Nous devons tracer des lignes rouges définitives en ce qui concerne l’extraction et l’utilisation de toutes sortes de données personnelles, tout en repensant fondamentalement l’utilisation et le contrôle des espaces publics privés.
Pour canaliser démocratiquement le pouvoir de la technologie moderne, nous avons besoin de nouveaux modèles de données et de propriété foncière adaptés à notre époque. À défaut, nos précieux espaces ouverts comme Kings Cross pourraient encore devenir les mines de données réelles des capitalistes de la surveillance du 21e siècle.