Pourquoi Cory Booker et Jeff Merkley veulent arrêter la reconnaissance faciale …

Avec juste une image de votre visage, quelqu'un armé d'un logiciel de reconnaissance faciale pourrait trouver tout ce qu'il y a à savoir sur vous, de votre nom à votre adresse en passant par des informations sur votre famille. Le fait qu'une telle technologie puisse inaugurer une ère de surveillance constante a fait peur. Recode a récemment discuté avec le sénateur Jeff Merkley (D-OR), qui a récemment présenté un projet de loi visant à limiter l'utilisation des logiciels de reconnaissance faciale par le gouvernement après avoir remarqué la technologie à l'œuvre sur son iPhone – et a vu l'étendue de son pouvoir dans l'utilisation par la Chine de contre la minorité ouïghoure largement musulmane du pays.

Plus tôt cette année, la nouvelle que Clearview AI, une mystérieuse start-up de reconnaissance faciale, avait gratté plus de 3 milliards de photos sur le Web et les médias sociaux et fourni cet outil à plus de 600 organismes d'application de la loi, n'a fait qu'alimenter davantage les inquiétudes. Plusieurs villes ont désormais interdit la technologie, et à la fin du mois dernier, 40 groupes ont demandé la suspension de l'utilisation de la technologie.

Mais les législateurs américains n'ont pas encore décidé de réglementer la reconnaissance faciale, bien qu'il y ait des idées. Les propositions comprennent l'interdiction de la technologie dans les logements sociaux bénéficiant d'une aide fédérale et l'obligation pour les utilisateurs commerciaux de la technologie d'obtenir le consentement des consommateurs pour utiliser leurs données. Maintenant, il y a le plan de Merkley, en collaboration avec le sénateur Cory Booker: interdire l'utilisation de la technologie par les forces de l'ordre fédérales sans mandat délivré par un tribunal jusqu'à ce que le Congrès propose une meilleure réglementation.

Leur projet de loi, intitulé «Ethical Use of Facial Recognition Act», établirait une commission pour étudier la technologie et proposer des lignes directrices; il interdirait d'envoyer de l'argent fédéral aux États et aux gouvernements locaux pour «investir dans des logiciels de reconnaissance faciale, acheter des services technologiques de reconnaissance faciale ou acquérir des images à utiliser dans des systèmes technologiques de reconnaissance faciale» Mais Neema Singh Guliani, de l'American Civil Liberties Union, prévient qu '"un mandat ne résout pas les problèmes fondamentaux liés à la reconnaissance faciale". Elle souligne des recherches montrant que la technologie peut être biaisée et plus inexacte lorsqu'elle est appliquée aux femmes et aux personnes de couleur, ainsi que le risque que la technologie mette en danger nos libertés civiles et notre vie privée.

Merkley a déclaré à Recode que la technologie peut être utile dans les enquêtes et que nous ne pouvons pas l’éviter complètement. Mais il craint également que l'utilisation excessive de la technologie ne devienne un outil de «suivi par le gouvernement» des civils.

à lire :  Comment démarrer une entreprise sans argent PDF

L'interview suivante a été modifiée pour plus de clarté et de longueur.

Rebecca Heilweil

Pour commencer, voulez-vous décrire ce que vous essayez de faire avec votre nouvelle proposition?

Le sénateur Jeff Merkley

J'essaie essentiellement de convaincre le gouvernement fédéral d'être un gouvernement Big Brother qui suit les Américains partout où vous allez. C’est une technologie qui se répand très, très rapidement et qui a des implications énormes pour la vie privée et le pouvoir du gouvernement. Et je pense que nous devrions appuyer sur le bouton pause.

Donc, mon projet de loi dit essentiellement que si vous n'avez pas de mandat, vous, le gouvernement fédéral, ne pouvez pas utiliser la reconnaissance faciale comme outil. Et vous ne pouvez pas l'utiliser jusqu'à ce que le Congrès autorise explicitement ses fonctions. … Et pour préparer les bases de cette conversation, je crée une commission qui reviendra dans les 18 mois pour des recommandations. Donc, c'est le genre de chose – si nous n'agissons pas et n'appuyons pas sur le bouton pause – cela se propage tellement rapidement, si puissamment, qu'il est très difficile de revenir en arrière.

Rebecca Heilweil

Était-ce en réponse aux nouvelles de Clearview AI et du rapport du New York Times sur l'application des lois utilisant cet outil de reconnaissance faciale?

Le sénateur Jeff Merkley

En fait, cela est arrivé après que j'ai commencé à travailler sur ce projet de loi. Le point qui a vraiment attiré mon attention était de savoir comment les Chinois utilisent la reconnaissance faciale pour la minorité musulmane, où ils ont environ un million de personnes asservies et les suivent partout où ils vont. Il vous fait comprendre ce qu'est un outil puissant. Contrairement aux empreintes digitales, qui sont difficiles à collecter et vous devez être très délibéré, vous pouvez capturer l'image du visage des gens avec des caméras installées partout, dans les rues, sur les portes, dans les lieux publics, etc. Et les bases de données peuvent être combinées, et bien sûr, comme le fait déjà Clearview, combinant d'énormes quantités de données.

Et cela devient tellement facile à suivre. La tentation est toujours de laisser le gouvernement faire de plus en plus. L'autre chose qui a vraiment attiré mon attention était, sur mon iPhone, lorsque je cherchais une image et que je suis tombé sur le fait que vous pouviez regarder et – lorsque vous appuyez sur la fonction de recherche – différentes images surgiraient de personnes. Et vous pouvez frapper cette personne et chaque photo que vous avez prise avec cette personne apparaîtra. Instant! Et je dis simplement "Wow".

à lire :  Quel est le coût d'un serveur pour les petites entreprises

J'étais tellement stupéfait de voir à quel point cela fonctionne. Ainsi, par exemple, lorsque j'ai cherché sur une photo de ma femme ou de ma fille, même si leur visage est tourné de côté, même s'il est dans l'ombre, il semble toujours les trouver. Et je suis juste stupéfait de voir à quel point cela fonctionne. C'est donc extrêmement, extrêmement puissant.

Rebecca Heilweil

La proposition comporte donc une exception pour les mandats. Pourquoi laisser cela quand d'autres villes ont totalement interdit la technologie?

Le sénateur Jeff Merkley

Eh bien, un mandat consiste à autoriser une perquisition lorsque vous avez présenté des preuves d'un crime. Cela semble être un endroit où si vous pouvez attraper quelqu'un qui tue ou viole des gens ou fait d'autres blessures graves à des concitoyens, je pense que c'est une utilisation légitime de l'outil, que les citoyens soutiendraient probablement de manière écrasante afin de mettre fin à une activité criminelle. .

Rebecca Heilweil

Mais certains diraient qu'un mandat ne résout pas les problèmes de biais et de précision. Comme l’a montré l’Institut national des normes et de la technologie, ces outils peuvent présenter des problèmes de précision, en particulier s’ils sont appliqués à des groupes minoritaires.

Le sénateur Jeff Merkley

Dans le cas d'un mandat, c'est un outil d'enquête. Cela vous met sur la piste des suspects potentiels, mais cela ne crée pas un cas en soi. Il faut beaucoup plus de preuves avant qu'un grand jury ne procède pour dire que cette personne doit être jugée pour quelque chose. Et les victimes peuvent très bien être des individus issus de groupes minoritaires, ou autrement. Je pense que peu importe qui sont les victimes, les gens apprécieraient que ce soit un outil pour traquer quelqu'un qui fait des choses nuisibles.

Pour y penser dans le contexte de si un membre de votre famille a été horriblement blessé par quelqu'un qui avait déjà horriblement blessé les autres, et nous n'avons pas utilisé une photo prise par quelqu'un à partir d'une caméra vidéo ou quelque chose quand ils sont entrés dans un magasin et une figure pour savoir qui est cette personne, vous répondriez: "Pourquoi pas nous?" Pourquoi n'avons-nous pas arrêté cette personne avant de blesser quelqu'un d'autre?

Donc je pense que quand il y a un processus de mandat, c'est très différent du simple suivi quotidien des Américains. Ce sont des extrémités différentes du spectre.

Rebecca Heilweil

Il semble que ce que vous dites est que vous voyez une différence entre une surveillance constante et l'utilisation de la reconnaissance faciale dans une enquête.

à lire :  JP Agenda - Jamaica Plain Gazette

Le sénateur Jeff Merkley

C'est vrai.

Rebecca Heilweil

Y a-t-il un organisme fédéral qui utilise déjà cette technologie qui vous inquiète le plus?

Le sénateur Jeff Merkley

Eh bien, nous savons que le FBI l'utilise, l'ICE l'utilise … Je suis juste inquiet [about] ces agences qui ont la possibilité d'accéder à des bases de données massives. Et certaines de ces bases de données sont énormes dans le secteur privé, comme vous l'avez mentionné, et sont vendues. Je suis très préoccupé par le fait que le gouvernement se lance dans cette entreprise de suivi de tout le monde. Je ne pense pas que le gouvernement devrait pouvoir savoir où nous allons dans notre vie quotidienne. Et je suis très préoccupé par le secteur privé aussi, mais ce projet de loi est un moyen d’engager la conversation là où je pense que c’est la plus grande préoccupation, et c’est le suivi du gouvernement.

Rebecca Heilweil

Un dernier commentaire? Je voudrais vous donner le dernier mot.

Le sénateur Jeff Merkley

Si nous ne nous attaquons pas à cette question et ne commençons pas à tenir des auditions et des débats et à lutter avec elle, elle va devenir si largement utilisée si rapidement que nous ne l’arrêterons jamais. Et nous vivrons dans un état de surveillance constante pour toujours. Ne laissons pas cela se produire.

Open Sourced est rendu possible par Omidyar Network. Tout le contenu Open Source est indépendant de la rédaction et produit par nos journalistes.

Pourquoi Cory Booker et Jeff Merkley veulent arrêter la reconnaissance faciale …
4.9 (98%) 32 votes
 

Julien