¿Control de la tecnología?

Hace unos días, con motivo de la celebración del 28 aniversario del nacimiento de la web, su fundador, Tim Berners-Lee, manifestó su preocupación por tres aspectos que a su juicio ponían en peligro las ventajas de la actual revolución tecnológica. Aludía a la pérdida de control de los datos personales, la facilidad con que se difunde información falsa y la falta de transparencia en la publicidad política. En el primer aspecto, insistía en los problemas que implica la constante cesión que hacemos de nuestra información, movimientos y datos de todo tipo, a cambio de servicios aparentemente gratuitos. De esta manera, por una lado acabamos perdiendo el control de esos datos y por otro aumenta nuestra vulnerabilidad al depender el acceso y uso de los mismos de sistemas cerrados y privativos. La facilidad con que esa acumulación de datos en manos comerciales pueda ser usada por gobiernos en razón de cualquier motivo, fundamentado democráticamente o no, sabemos que es algo más que una posibilidad.

Por otro lado, alerta que los motores de búsqueda que mayoritariamente usamos, seleccionan los sitios en los que encontrar información a partir de algoritmos creados de manera opaca, y que, además, tienden a priorizar aquellas webs que han contratado el estar situadas en posiciones privilegiadas. De tal manera, que cuantos más ‘clics’ hagamos en ellas, más beneficios consigue la empresa que controla el motor de búsqueda. Y al mismo tiempo, esos ‘clics’ sirven para seguir acumulando datos sobre nuestras preferencias y orientar así la publicidad que crecientemente rodea nuestras interacciones digitales. Al final no es importante lo que sucede o la información que buscamos, sino aquello que el sistema ha seleccionado para nosotros. En parte siguiendo lo que entienden que son nuestras preferencias, en parte inoculando aquello que otros desean que acaben siéndolo.

Las recientes elecciones en los Estados Unidos han demostrado asimismo la capacidad del ‘Big data’ para segmentar públicos y preferencias, hasta el punto de modular la publicidad política de manera personalizada. En sus notas, Berners-Lee apunta a que en una misma secuencia de publicidad se llegaron a enviar hasta 50.000 anuncios distintos para otros tantos perfiles de Facebook que se habían identificado y caracterizado. Estos mensajes servían tanto para aproximar el electorado escogido al candidato, como para redirigir la atención a sitios en los que se difundía información de dudosa fiabilidad, o también para conseguir que determinados perfiles tuvieran menos interés en ir a votar a los que presumiblemente habían pensado.

¿Cómo evitar esos graves problemas y, al mismo tiempo, poder seguir aprovechando las evidentes ventajas que internet nos ofrece?. El debate es aquí también político. Estamos hablando de códigos abiertos, de ‘software’ libre, de soberanía social y ciudadana sobre los datos que generamos, de la construcción de espacios y plataformas que sean democráticas y que rindan cuentas a sus usuarios, y también de hacer mucho más transparentes la construcción de los algoritmos en los que se basan los motores de búsqueda. Este es claramente uno de los lados más oscuros del escenario en el que estamos inmersos. Y lo es ya que deja en la aparente neutralidad técnica, en la pura mecánica matemática, una construcción sombría y opaca que acaba condicionando nuestras vidas, reduciendo las capacidad de conseguir un crédito, de ser considerado sospechoso, de poder acceder a un tratamiento médico o de no ser seleccionado en un trabajo.

Esta opacidad puede aumentar si, como parece, la incorporación de los ordenadores cuánticos, con mucha mayor capacidad y autonomía para poder procesar y relacionar datos, acaban generando recomendaciones o diagnósticos que pueden resultar muy difícilmente explicables incluso por los expertos propios de cada campo, sean estos asesores financieros, detectives, médicos especialistas o psicólogos expertos en recursos humanos.

Hemos de regular y democratizar la construcción de algoritmos, generando sistemas éticos que involucren a sus creadores e implementadores, auditando los sistemas que ya funcionan y contrastando quién gana y quién pierde ante cada dilema. Politizando la transformación tecnológica que modifica nuestras vidas. Ya que si consideramos que todo esto es estrictamente neutral y técnico, lo estamos naturalizando, lo estamos considerando como algo incontrolable. En el fondo, estaremos abdicando de nuestras responsabilidades.

Joan Subirats, catedrático de Ciencia Política (Universitat Autònoma de Barcelona).

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *