El reconocimiento facial debe postergarse

El reconocimiento facial debe postergarse

¿Qué vamos a hacer con todas las cámaras? La pregunta me quita el sueño por las noches, con un sentimiento que se asemeja al terror.

Las cámaras están definiendo el avance tecnológico de nuestra era. Son la clave de nuestros teléfonos celulares, los ojos de los drones autónomos del mañana y los motores del FOMO (Fear of Missing Out, en inglés; el miedo a perderse algo, la ansiedad que nos provoca perdernos un evento u oferta) que impulsan Facebook, Instagram, TikTok, Snapchat y Pornhub. La fotografía viral, barata y omnipresente ha dado lugar a movimientos sociales como Black Lives Matter, pero las cámaras ya están dando lugar a más problemas de los que podemos manejar: la pornovenganza, el terrorismo transmitido en tiempo real, los reaccionarios de YouTube y otros males fotográficos.

Además, las cámaras no se quedan ahí. Siguen abaratándose y volviéndose más inteligentes, de maneras que resultan sorprendentes y alarmantes a la vez. Los avances en la visión computarizada les están dando a las máquinas la capacidad de distinguir y rastrear rostros, adivinar el comportamiento y las intenciones de la gente y aprehender y sortear amenazas en el entorno físico. En China, las cámaras inteligentes son la base de un totalitarismo de vigilancia que lo abarca todo y que no tiene precedentes en la historia de la humanidad. En Occidente, las cámaras inteligentes ahora se venden como soluciones baratas para casi cada infortunio público y privado, desde atrapar a cónyuges infieles y ladrones de paquetes, hasta evitar tiroteos en las escuelas y violaciones a la ley migratoria. Sospecho que estos usos y otros más tomarán vuelo, porque en los años que llevo cubriendo el tema de la tecnología, he observado un axioma invulnerable de la sociedad: si le pones una cámara, se vende.

Por ello me preocupa que estemos cayendo a tropezones y a ciegas en un Estado que nos vigila, razón por la cual me parece que lo único razonable que podemos hacer ahora al respecto es ponerles un alto a las cámaras inteligentes.

La semana pasada, el Consejo de Supervisores de San Francisco, mediante una votación, prohibió el uso de tecnología de reconocimiento facial en la policía y otras agencias de la ciudad. Oakland y Berkeley, en California, también están considerando prohibiciones, al igual que la ciudad de Somerville, Massachusetts. Estoy esperando que estas medidas se dispersen por doquier. Estados, ciudades y el gobierno federal deberían imponer una moratoria inmediata al reconocimiento facial, en especial en lo que respecta a su uso por parte de las autoridades que hacen cumplir la ley. Todavía podríamos decidir, más adelante, entregarnos a las cámaras en todo lo demás. Pero no nos apresuremos a adentrarnos a un futuro en el que todo se ve sin entender los riesgos que conlleva.

¿Cuáles son los riesgos? Dos nuevos informes de Clare Garvie, una investigadora que estudia el reconocimiento facial en Georgetown Law, me hicieron ver los peligros de esta tecnología. En un informe —escrito junto con Laura Moy, directora ejecutiva del Centro de Privacidad y Tecnología de Georgetown Law— Garvie sacó a la luz los contratos municipales que indican que las agencias de procuración de justicia en Chicago, Detroit y otras ciudades más se están movilizando rápidamente y con poca información al público en general, para instalar sistemas de reconocimiento facial “en tiempo real” al estilo de China.

En Detroit, los investigadores descubrieron que la ciudad firmó un contrato de un millón de dólares con DataWorks Plus, un proveedor de reconocimiento facial, para adquirir un programa que permite un monitoreo continuo de cientos de cámaras públicas y privadas instaladas en toda la ciudad —en gasolineras, restaurantes de comida rápida, iglesias, hoteles, clínicas, centros de tratamiento a las adicciones, complejos de departamentos de interés social y escuelas—. Los rostros captados por las cámaras pueden buscarse en la base de datos de las fotografías de las licencias para conducir de Míchigan. Los investigadores también obtuvieron las normas del Departamento de Policía de Detroit que regulan el uso del sistema. Las normas son laxas, ya que permiten a los policías escanear rostros “en video en vivo o grabado” por una gran variedad de razones, incluyendo “investigar o corroborar información y pistas de informantes”. En una carta para Garvie, James E. Craig, jefe de policía de Detroit, negó que se estuvieran ejecutando “actividades orwellianas”, y agregó que se “ofendió enormemente” ante la sugerencia de que la policía “violaría los derechos de los ciudadanos que cumplen la ley”.

Soy menos optimista, al igual que Garvie. “El reconocimiento facial les da a las autoridades una capacidad única que nunca habían tenido antes”, me dijo Garvie. “Me refiero a la capacidad de llevar a cabo vigilancia biométrica: la capacidad de ver no solo qué está ocurriendo en el terreno, sino quién lo está llevando a cabo. Esto no había sido posible antes. Nunca habíamos podido hacer secretamente un escaneo masivo de las huellas digitales de un grupo de personas. Nunca hemos podido hacer eso con el ADN. Ahora podemos hacerlo con el escaneo de los rostros”.

Esta capacidad altera nuestra percepción de la privacidad en los espacios públicos. Tiene implicaciones escalofriantes para las libertades de expresión y de asociación que ampara la Primera Enmienda en Estados Unidos; significa que la policía puede observar quién participa en protestas contra la policía y seguir los pasos de esas personas después.

De hecho, esto ya está sucediendo. En 2015, cuando, en Baltimore, surgieron las protestas por la muerte de Freddie Gray mientras estaba bajo custodia policiaca, el Departamento de Policía del condado de Baltimore usó software de reconocimiento facial para encontrar a la gente entre la multitud que tenía órdenes de aprehensión pendientes y los detuvo de inmediato, en nombre de la seguridad pública.

Ojos en Detroit. La operación de reconocimiento facial de Detroit aprovecha las cámaras de alta definición instaladas en toda la ciudad dentro de un programa llamado Project Green Light Detroit. Los negocios participantes envían al Departamento de Policía de Detroit una transmisión en vivo de sus cámaras internas y externas. A cambio, reciben “atención policiaca especial”, de acuerdo con el sitio web de la iniciativa.
Ojos en Detroit. La operación de reconocimiento facial de Detroit aprovecha las cámaras de alta definición instaladas en toda la ciudad dentro de un programa llamado Project Green Light Detroit. Los negocios participantes envían al Departamento de Policía de Detroit una transmisión en vivo de sus cámaras internas y externas. A cambio, reciben “atención policiaca especial”, de acuerdo con el sitio web de la iniciativa.

Pero hay otra cuestión en el debate sobre el reconocimiento facial. En un segundo informe, Garvie descubrió que la policía está usando los sistemas de escaneo de rostros, a pesar de todo su supuesto poder, de manera apresurada y descuidada, por lo que se deberían cuestionar sus resultados.

Este es solo uno de los ejemplos inverosímiles del informe de Garvie: a principios de 2017, una cámara de seguridad captó a un hombre robando cerveza de una tienda CVS en Nueva York, pero la cámara no obtuvo una buena imagen del hombre y el sistema de escaneo facial de la ciudad no encontró ninguna coincidencia.

Sin embargo, eso no detuvo a la policía. Un detective del Departamento de Reconocimiento Facial del Departamento de Policía de Nueva York pensó que el hombre en el video pixelado de CVS se parecía al actor Woody Harrelson. Así que obtuvo una imagen del actor en Google Imágenes y escaneó su rostro. Eso produjo una coincidencia y las autoridades actuaron. Un hombre fue arrestado por un delito no porque se parecía al hombre captado en la cinta sino porque Woody Harrelson se parecía al delincuente.

Devora Kaye, vocera del Departamento de Policía de Nueva York, me dijo que el departamento usa el reconocimiento facial únicamente para ayudarse en las investigaciones y que “siempre es necesario investigar más para determinar que haya causa probable para un arresto”. Añadió que “la policía de Nueva York evalúa continuamente sus procedimientos existentes y en línea con eso está en un proceso de revisión” de sus protocolos de reconocimiento facial existentes.

Este tipo de búsqueda superficial es cosa de rutina en el negocio del rostro. El software de escaneo de rostros que se vende a la policía permite editar fácilmente fotografías de entrada. Para aumentar las coincidencias que hay en una fotografía, se aconseja a la policía que remplace las bocas, ojos y otros rasgos faciales de la gente con imágenes modelo de Google. El software también permite hacer “modelos en 3D”, básicamente con ayuda de animación computarizada para girar o cambiar de alguna otra forma un rostro de tal modo que se asemeje a una fotografía estándar de las que se toman en los cuarteles de policía.

En un giro inesperado, algunos departamentos de policía incluso están utilizando el reconocimiento facial en los dibujos forenses: buscan rostros de gente de carne y hueso con base en representaciones de artistas a partir de la declaración de un testigo ocular, un proceso plagado del tipo de subjetividad humana que el reconocimiento facial se proponía evitar.

Lo más preocupante de todo esto es que casi no hay normas que regulen su uso. “Si descubriéramos que un analista de huellas digitales estuviera dibujando las líneas faltantes como pensara que continúan, habría fundamentos para un juicio nulo”, afirmó Garvie.

No obstante, se está arrestando, acusando y sentenciando a personas con base en prácticas similares en las búsquedas faciales. Y debido a que no hay mandatos sobre la obligación para que a los acusados y sus abogados se les informe acerca de estas búsquedas, a la policía se le permite actuar con impunidad.

Nada de esto es para decir que el reconocimiento facial debería prohibirse para siempre. La tecnología puede tener algunos usos legítimos, pero también supone profundas disyuntivas jurídicas y éticas. ¿Qué tipo de reglas deberían imponerse al uso de las autoridades del reconocimiento facial? ¿Qué hay sobre el uso de cámaras inteligentes por parte de nuestros amigos y vecinos, en sus autos y puertas? En resumen: ¿quién tiene el derecho de vigilar a los demás y en qué circunstancias puedes rechazarlo?

Tomará tiempo y un cuidadoso estudio responder estas preguntas. Pero tenemos tiempo. No hay necesidad de apresurarse a entrar en terreno desconocido. Vamos a dejar de usar el reconocimiento facial de inmediato, al menos hasta que podamos vislumbrar qué está pasando.

Farhad Manjoo became an opinion columnist for The New York Times in 2018.  Before that, he wrote The Times’ State of the Art column. He is the author of True Enough: Learning to Live in a Post-Fact Society.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *