MIT Por qué 2020 fue contradictorio para reconocimiento Facial
El movimiento de justicia racial empujó los problemas con la tecnología a la conciencia pública, pero a pesar de los escándalos y prohibiciones, su crecimiento no se está desacelerando.
por qué 2020 fue contradictorio para reconocimiento facial
“¿Este Eres tu?” preguntó .
“No, ese no soy yo”. Williams respondió.
El detective pasó otra foto. “¿Supongo que tampoco eres tú?”
Williams sostuvo la foto junto a su rostro. Claramente no era él. Williams dijo: “Este no soy yo. Espero que no crea que todos los negros se parecen “.
“La computadora dice que eres tú”, respondió el detective.
Lo novedoso del arresto de Robert Williams no es que haya ocurrido ni que haya sido un error. Se sabe que el reconocimiento facial es menos preciso para las personas de piel más oscura. Y la tecnología es ampliamente utilizada por los departamentos de policía de Estados Unidos, aunque no hay buenos datos sobre su alcance. La parte inusual de la historia de Williams es que la policía admitió haber usado el reconocimiento facial en su arresto.
por qué 2020 fue contradictorio para reconocimiento facial
La noticia del caso se hizo pública a principios de agosto y, después de un verano de protestas centradas en la forma en que se vigila a las comunidades negras en Estados Unidos, se encontró con la indignación nacional. Un par de semanas después, salió a la luz otro arresto injusto de un hombre negro en Detroit debido a la tecnología de reconocimiento facial.
Incluso antes de esto, los activistas habían estado exigiendo el fin del Proyecto Greenlight, la iniciativa público-privada de toda la ciudad que utiliza el reconocimiento facial en un esfuerzo por reducir el crimen. Y, sin embargo, el proyecto no solo sigue en marcha: a finales de septiembre, el ayuntamiento votó para ampliar el contrato entre el Departamento de Policía de Detroit y su proveedor de reconocimiento facial, DataWorks Plus.
Un año de contradicciones
Los eventos en Detroit ejemplifican nuestra complicada relación con el reconocimiento facial en este momento. Su uso está creciendo y en algunos campos la tecnología se ha vuelto integral. En otros, como el comercio minorista, el reconocimiento facial está comenzando a implementarse con grandes esperanzas para el futuro.
por qué 2020 fue contradictorio para reconocimiento facial
Muchos proveedores de tecnología están apostando a que el público se sentirá cada vez más cómodo con el uso de la biometría, y pronto será una parte orgánica de la vida digital: Apple ha apostado fuertemente por ella, y ahora millones de personas usan su sistema Face ID para desbloquear sus dispositivos. iPhones todos los días.
Pero el público también tiene una nueva conciencia de los peligros que plantea el reconocimiento facial, especialmente en la justicia penal. Hay mucho más conciencia, más preocupación y más conversación ahora que nunca, y este año ha visto más legislación sobre reconocimiento facial que todos los años anteriores juntos. Hubo prohibiciones o moratorias en seis ciudades de los EE. UU. En 2019, y lo mismo volvió a ocurrir este año.
Será difícil conciliar estas leyes con el crecimiento de la industria. Pero los eventos de 2020 dan algunas pistas sobre cómo estos compromisos podrían desarrollarse durante el próximo año.
Pequeños jugadores, gran industria
En enero, el New York Times publicó una investigación de ClearviewAI, una pequeña empresa de reconocimiento facial que ejecutó su algoritmo en una base de datos de miles de millones de imágenes tomadas de las redes sociales. Los departamentos de policía que usaban el sistema de ClearviewAI estaban accediendo eficazmente a sus fotos de Facebook para que coincidieran con imágenes policiales a menudo borrosas o incompletas durante las investigaciones.
por qué 2020 fue contradictorio para reconocimiento facial
por qué 2020 fue contradictorio para reconocimiento facial
La compañía fue fuertemente criticada, y los informes posteriores de BuzzFeed News mostraron que el sistema estaba siendo utilizado por hasta 2,200 agencias de aplicación de la ley en los EE. UU., Así como por el Servicio de Inmigración y Control de Aduanas, el Departamento de Justicia y minoristas como Macy’s y Walmart.
“La historia de Clearview realmente asustó a mucha gente, como debería”, dice Jameson Spivack, asociado de políticas delCenter on Privacy and Technology | Center on Privacy and Technology | Georgetown Law. Muchas de las preocupaciones se centran en lo fragmentado que está el campo.
Si bien las grandes empresas como IBM y Microsoft son fuerzas importantes, también hay muchas empresas privadas más pequeñas, como ClearviewAI y NtechLab, que operan con poca supervisión pública. El informe también expuso lo poco que sabía el público sobre el uso generalizado de la tecnología por parte del gobierno.
El catalizador: protestas raciales
Estas historias crearon conciencia sobre los problemas, pero Spivack dice que las protestas de Black Lives Matter tras el asesinato de George Floyd fueron el “mayor catalizador” de la legislación que restringe el uso del reconocimiento facial en Estados Unidos. De repente, los estadounidenses comenzaron a reexaminar la policía y sus herramientas, políticas y cultura.
por qué 2020 fue contradictorio para reconocimiento facial
La preocupación comenzó a crecer después de que los investigadores Joy Buolamwini y Timnit Gebru descubrieron y documentaron prejuicios raciales en productos comerciales de reconocimiento facial en 2018, lo que llevó a varias ciudades y estados a aprobar leyes que impedían a la policía usar el reconocimiento facial junto con cámaras corporales.
Pero durante el mayor movimiento de protesta en la historia de Estados Unidos, a los activistas les preocupaba que se utilizaran tecnologías de vigilancia policial como represalia. Desde entonces se ha confirmado que al menos los departamentos de policía de Nueva York , Miami y Washington, DC utilizaron el reconocimiento facial para vigilar a los manifestantes.
El 1 de junio en Washington, DC, la policía utilizó bolas de pimienta y gases lacrimógenos para hacer retroceder a los manifestantes en Lafayette Square para que el presidente Trump pudiera obtener una oportunidad para tomar fotografías en una iglesia cercana. En medio del caos, un manifestante golpeó a un oficial de policía. Días después, los agentes encontraron una foto del hombre en Twitter y la pasaron por su sistema de reconocimiento facial, consiguieron una coincidencia e hicieron un arresto. De manera similar, en Miami, una mujer acusada de arrojar piedras a la policía durante una protesta fue arrestada sobre la base de un reconocimiento facial.
por qué 2020 fue contradictorio para reconocimiento facial
Spivack vio a los activistas de base contra el reconocimiento facial trabajar en estrecha colaboración con los grupos de reforma policial durante el verano y el otoño, liderados por otros grupos de defensa como la Unión Estadounidense de Libertades Civiles. En Portland, Oregon, un manifestante incluso creó un sistema de reconocimiento facial para identificar a los agentes de policía anónimos .
A medida que avanzaba el 2020, se propuso una legislación para limitar el uso policial de dicha tecnología a nivel municipal, estatal e incluso federal. En junio, los legisladores demócratas presentaron un proyecto de ley que prohibiría el uso del reconocimiento facial por parte de la policía federal. En Vermont, una orden ejecutiva del gobernador creó una prohibición estatal sobre el uso de la tecnología por parte del gobierno. En Massachusetts, las ciudades de Cambridge y Boston aprobaron prohibiciones sobre la tecnología este verano, y el gobierno estatal aprobó una prohibición del reconocimiento facial para agencias públicas, que incluye la aplicación de la ley, en diciembre; El gobernador Charlie Baker actualmente se niega a firmar el proyecto de ley .
California inició su propio debate sobre la legislación estatal en mayo, y las ciudades de San Francisco y Oakland ya han prohibido el uso del reconocimiento facial por parte de las fuerzas del orden. En julio, la ciudad de Nueva York instituyó una moratoria sobre el reconocimiento facial en las escuelas hasta 2022. En Portland, Oregon, una nueva prohibición en toda la ciudad prohíbe el uso de la tecnología por parte de cualquier grupo público o privado.
por qué 2020 fue contradictorio para reconocimiento facial
Pero este cambio no está sucediendo en todas partes, como muestra el nuevo compromiso con la vigilancia en Detroit. Spivack especula que la dinámica del poder racial podría estar influyendo en la lucha política en torno a la vigilancia policial. “Si nos fijamos en muchas de las ciudades que fueron algunas de las primeras en prohibir el reconocimiento facial, por lo general, no siempre, pero por lo general, eran más ricas, más blancas, muy progresistas, tal vez con más capital político y capacidad para impactar a los legisladores, más más que las comunidades más marginadas ”, dice.
¿Una perspectiva nacional?
n embargo, no toda la reacción ha tomado la forma de legislación. A principios de junio, IBM anunció que había dejado de vender cualquiera de sus productos de reconocimiento facial. Amazon y Microsoft siguieron su ejemplo y suspendieron temporalmente sus contratos con los departamentos de policía. Y en julio, la American Civil Liberties Union (aclu.org) presentó una demanda contra ClearviewAI por no cumplir con la Ley de Privacidad de la Información Biométrica de Illinois, el primer desafío legal completo para la empresa.
Microsoft, Amazon, IBM y grupos de la industria como la Asociación de la Industria de la Seguridad se están preparando para una pelea. Aumentaron drásticamente la cantidad de cabildeo sobre el reconocimiento facial de 2018 a 2019, y se espera que 2020 muestre un aumento aún mayor. Muchos están a favor de una mayor regulación, pero no de prohibiciones. La moratoria de Amazon terminará en junio y la de Microsoft depende de la institución de una ley federal.
Mientras tanto, la ACLU continúa redactando una legislación que busca prohibir la tecnología. Una declaración en su sitio web dice que la organización “está tomando a los tribunales, calles, legislaturas, ayuntamientos e incluso salas de juntas corporativas para defender nuestros derechos contra los crecientes peligros de esta tecnología de vigilancia no regulada”.
Las prioridades de la nueva administración también darán forma a la regulación en 2021 y más allá. Como candidata presidencial, Kamala Harris citó la regulación del reconocimiento facial en la aplicación de la ley como parte de su plan de reforma policial. Si la administración impulsa una legislación federal, es más probable que se convierta en un problema nacional, con el resultado de que se destinarán menos recursos a más campañas de supervisión local. Pero si no, es probable que la lucha continúe desarrollándose a nivel estatal y municipal.
MIT, Responder a las crisis con rapidez y agilidad Revista NUVE