San Francisco, bastion de la tech, interdit la reconnaissance faciale

Le conseil de surveillance de la ville de San Francisco a récemment voté à 8 contre 1 en faveur d'un projet de loi qui interdit au gouvernement municipal, y compris la police, d'utiliser la technologie de reconnaissance faciale. Cette décision fait de San Francisco la première ville des États-Unis à interdire totalement l'adoption par le gouvernement de cette technologie et relance le débat sur l’emploi de la reconnaissance faciale par les services publics, déjà en vigueur dans plusieurs villes américaines et du monde. Cette loi garantit le respect des droits et de la liberté des citoyens, et pour cela, je salue l’initiative de la part de la ville de San Francisco, car il me semble qu’aucun gouvernement ne devrait utiliser la reconnaissance faciale à grande échelle et de manière centralisées. Les dérives possibles sont trop immenses.

Contrôle policier prédictif et biais racial: les dérives en Chine et aux États-Unis

Prenons l’exemple de la Chine qui développe actuellement un système de surveillance absolue où les visages et les données biométriques de ses quelque 1,4 milliard d’habitants constitueront bientôt la plus importante base identitaire au monde. La police est équipée de lunettes à reconnaissance faciale et un réseau de caméras intelligentes est en train d’être installé dans tous les lieux publics d’importance, permettant d’identifier chaque Chinois de plus de 16 ans en moins d’une seconde.

Quant aux USA, un article publié par The Atlantic en avril 2016 dévoile l’existence d’un biais racial contenu dans le logiciel de reconnaissance faciale pourtant exploité par de nombreuses villes américaine. Selon la façon dont les algorithmes sont formés, ils pourraient être beaucoup plus précis pour identifier les visages blancs que ceux des Afro-Américains. La technologie a ainsi des conséquences dramatiques lorsqu’elle est utilisée par les autorités juridiques. Par exemple, les caméras de vidéosurveillance de la police de Los Angeles sont équipées d’un logiciel de reconnaissance faciale leur permettant de reconnaître les visages des passants pour ensuite les comparer en temps réel à des listes de personnes soupçonnées d'activités de gang ou d'avoir un mandat d'arrêt en cours. Si l'on considère les taux d'arrestation et d'incarcération à L.A., il y a de fortes chances que ces listes impliquent de manière disproportionnée les Afro-Américains. Et des recherches récentes suggèrent que les algorithmes qui sous-tendent la technologie de reconnaissance faciale pourraient donner de pires résultats sur ce groupe démographique précis, menant à des erreurs qui pourraient faire que des citoyens innocents soient identifiés comme suspects dans des crimes.

Le RGPD: un modèle européen pour le reste du monde

En Europe, le Règlement Général sur la Protection des Données (RGPD) protège les citoyens de telles dérives en imposant soit l’anonymisation des données personnelles soit qu’aucun visage ne puisse figurer sur une base de données sans le consentement de la personne. Heureusement, le RGPD incite fortement le reste du monde à suivre ses règles du jeu en exigeant des pays souhaitant importer sur leurs territoires des données concernant les 500 millions de citoyens européens d'assurer le même niveau de protection que celui appliqué en Europe. Des géants internationaux du numérique comme Viber s'adaptent déjà à cette nouvelle donne. Car si c’est le rôle des États de protéger leurs citoyens, c’est bel et bien la responsabilité des entreprises que de mettre en place des mécanismes dans leur technologie qui garantissent qu’elle soit “juste” et “sûre”, soit via l’anonymisation des données personnelles collectées, soit en se procurant des jeux de données équilibrés et représentatifs des minorités afin de faire disparaître tous les biais.

La reconnaissance faciale en entreprise: pour une utilisation en local

En Europe, beaucoup d’entreprises, à l’instar de la RATP, choisissent d’exploiter l’énorme potentiel des caméras de vidéosurveillance en anonymisant les données personnelles plutôt que de faire de la reconnaissance faciale. Toutefois, nous reconnaissons qu’il existe un potentiel d’applications intéressantes de la reconnaissance faciale par les entreprises, notamment pour l’amélioration de l’expérience utilisateur et des parcours client. C’est la possibilité, par exemple, de débloquer son smartphone avec son visage, de payer dans un restaurant d’entreprise sans avoir à sortir son badge ou de donner accès à des zones sécurisées. Mais seulement à condition que l’algorithme de reconnaissance faciale, la base de données des visages à reconnaître et l’analyse de ces données soient effectués en local, sans que les données (vidéo, photo) ne transitent à l’extérieur - et toujours avec le consentement des employés et des usagers!