La distopía a la que nos suscribimos

Las amenazas de violencia física y terrorismo han provocado que los gobiernos atraviesen barreras tradicionales de privacidad personal en el nombre de la seguridad nacional. Un empleado del metro en la estación Victoria en Londres monitorea cámaras de vigilancia. Credit Andrew Testa para The New York Times
Las amenazas de violencia física y terrorismo han provocado que los gobiernos atraviesen barreras tradicionales de privacidad personal en el nombre de la seguridad nacional. Un empleado del metro en la estación Victoria en Londres monitorea cámaras de vigilancia. Credit Andrew Testa para The New York Times

Durante siete años, yo no existí.

Mientras estaba encarcelada, no tuve estados de cuenta bancarios ni facturas ni historial crediticio. En nuestro mundo interconectado de macrodatos, al parecer no era distinta de una persona fallecida. Después de que me liberaron, esa falta de información acerca de mí generó una serie de problemas, desde dificultad para acceder a cuentas bancarias hasta complicaciones para obtener una licencia de conducir y rentar un apartamento.

En 2010, el iPhone solo tenía tres años de haber sido lanzado y muchas personas aún no consideraban que los teléfonos inteligentes fueran los accesorios digitales indispensables que son ahora. Siete años más tarde, prácticamente todo lo que hacemos provoca que derramemos información digital, lo cual nos pone a merced de algoritmos invisibles que amenazan con consumir nuestra libertad.

La filtración de información puede parecer inocua en algunos aspectos. Después de todo, ¿por qué preocuparse si no tenemos nada que ocultar? Declaramos nuestros impuestos. Hacemos llamadas telefónicas. Enviamos correos electrónicos. Se usan registros fiscales para que seamos honestos. Aceptamos dar a conocer nuestra ubicación para que podamos revisar el clima en nuestros teléfonos inteligentes. Los registros de nuestras llamadas, mensajes de texto y movimientos físicos se archivan junto con nuestra información de cobranza. Quizá esos datos se analizan en secreto para verificar que no somos terroristas, pero nos aseguran que solo es en aras de la seguridad nacional.

Las cámaras de vigilancia y otros sensores conectados a internet registran nuestros rostros y voces; ahora ponemos algunos de estos dispositivos en nuestras casas de manera voluntaria. Cada vez que cargamos un artículo noticioso o una página en un sitio de redes sociales, nos exponemos a códigos de rastreo, y permitimos que cientos de entidades desconocidas monitoreen nuestras compras y nuestras costumbres de navegación en línea. Aceptamos acuerdos de términos de servicio crípticos que opacan la verdadera naturaleza y el objetivos de esas transacciones.

De acuerdo con un estudio de 2015 del Pew Research Center, el 91 por ciento de los adultos estadounidenses creen que han perdido el control de la manera en que se recolecta y se utiliza su información personal. Sin embargo, todo lo que han perdido es más de lo que probablemente sospechan.

El verdadero poder de la recopilación de datos masivos está en los algoritmos personalizados capaces de tamizar, ordenar e identificar patrones dentro de los datos. Cuando se recolecta información suficiente a lo largo del tiempo, los gobiernos y las corporaciones pueden usar o abusar de estos patrones para predecir el comportamiento humano próximo. Nuestros datos establecen un “patrón de vida” a partir de residuos digitales aparentemente inofensivos como las señales de las torres celulares, las transacciones con tarjetas de crédito y los historiales de navegación en la web.

Las consecuencias de estar sujetos al constante escrutinio algorítmico a menudo son poco claras. Las empresas tecnológicas, por ejemplo, pregonan que la inteligencia artificial —un término amplio de Silicon Valley para referirse a algoritmos de aprendizaje profundo y pensamiento profundo— es un camino hacia las ventajas de la alta tecnología del así llamado internet de las cosas. Esto incluye asistentes digitales en casa, dispositivos conectados a internet y vehículos autónomos.

De manera simultánea, los algoritmos ya están analizando los hábitos de las redes sociales, determinando la capacidad crediticia, decidiendo a qué candidatos a un empleo se les llamará para entrevista y juzgando si los acusados de un crimen deben salir bajo fianza. Otros sistemas de aprendizaje digital utilizan análisis facial automatizado para detectar y rastrear emociones o dicen tener la habilidad de predecir si alguien se convertirá en un criminal solo con base en sus rasgos faciales.

Estos sistemas no dejan espacio para lo humano; no obstante, definen nuestra vida diaria. Cuando comencé a reconstruir mi vida este verano, descubrí con dolor que no tienen tiempo para las personas que se han salido del sistema… no registran ese tipo de matices. Me revelé públicamente como mujer transgénero y comencé un tratamiento de remplazo hormonal mientras estaba en prisión. Sin embargo, cuando me liberaron, no había historial cuantificable de mi existencia como mujer trans.

Las verificaciones crediticias y de antecedentes supusieron automáticamente que estaba cometiendo fraude. Mis cuentas bancarias aún estaban bajo mi viejo nombre, que legalmente ya no existía. Durante meses, tuve que llevar a todas partes una enorme carpeta con mi vieja identificación y una copia de la orden judicial en la que se declaraba mi cambio de nombre. Incluso entonces, los secretarios y cajeros bancarios a veces se encogían de hombros al notar la anomalía y solo decían: “La computadora dice que no” mientras me negaban el acceso a mis cuentas.

Ese pensamiento programático e impulsado por máquinas se ha vuelto especialmente peligroso en manos de los gobiernos y la policía.

En años recientes, nuestro ejército, fuerzas policiales y agencias de inteligencia se han combinado de maneras inesperadas. Cosechan más datos de los que pueden manejar y van lado a lado a través del mundo cuantificable en edificios extensos y por lo regular sin ventanas llamados centros de fusión.

Esas relaciones nuevas y poderosas han generado una base para un vasto Estado policial y de vigilancia al que también le han dado vida. Los algoritmos avanzados han hecho esto posible a un nivel sin precedentes. Las infracciones relativamente menores o “microcrímenes” ahora pueden controlarse enérgicamente, y gracias a bases de datos nacionales compartidas entre los gobiernos y las corporaciones, estos incidentes menores pueden acecharte para siempre, incluso si la información es incorrecta o carece de contexto.

Al mismo tiempo, el Ejército de Estados Unidos utiliza los metadatos de un sinfín de comunicaciones para atacar con drones, utilizando señales emitidas desde los teléfonos celulares para rastrear y eliminar blancos.

En la literatura y la cultura pop, conceptos como “crimental” y “precrimen” han surgido a partir de la ficción distópica. Se utilizan para limitar y castigar a cualquiera que sea señalado por los sistemas automatizados como un criminal o una amenaza en potencia, aunque no se haya cometido un crimen. Sin embargo, este tropo de la ciencia ficción se está convirtiendo rápidamente en realidad. Los algoritmos predictivos de control policial ya se están usando para generar mapas automatizados de indicadores de crímenes futuros, y al igual que el control policial “manual” que los antecedió, van de forma abrumadora tras vecindarios pobres y de minorías.

El mundo se ha convertido en una suerte de novela inquietantemente distópica y banal. Las cosas se ven igual en la superficie, pero no lo son. Sin fronteras aparentes en torno a la manera en que los algoritmos pueden usar y abusar de los datos que se recopilan acerca de nosotros, el potencial para que controlen nuestras vidas está en constante aumento.

Nuestras licencias de conducir, nuestras llaves, nuestras tarjetas de débito y crédito son partes importantes de nuestra vida. Incluso nuestras cuentas en las redes sociales pronto podrían ser componentes fundamentales para ser miembros completamente funcionales de la sociedad. Ahora que vivimos en este mundo, debemos averiguar cómo mantener nuestra conexión con la sociedad sin rendirnos ante procesos automatizados que no podemos ver ni controlar.

Chelsea Manning es defensora de la transparencia gubernamental, activista de los derechos de las personas transgénero y exanalista de inteligencia del Ejército de Estados Unidos. En 2013, la condenaron bajo la Ley de Espionaje por filtrar documentos clasificados acerca de las guerras en Irak y Afganistán. El presidente Obama conmutó su sentencia en enero, y la liberaron en mayo.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *