Empezó donde tantas historias terminan, en las bibliotecas. Pero no en las grandes colecciones nacionales, la British Library o la Biblioteca del Congreso, sino en las menos transitadas oficinas de patentes y bibliotecas especializadas. Era el final de la Segunda Guerra Mundial y, a pesar de lo que muchos habían predicho, el conflicto no parecía haber traído un cataclismo que pusiera punto final a la memoria cultural, sino una avalancha de artículos científicos e informes técnicos sin precedentes. Una de las consecuencias de la industrialización –y nacionalización– del esfuerzo científico fue un crecimiento tan desorbitado de las publicaciones que las instituciones que normalmente ordenan ese saber se vieron totalmente desbordadas.
El problema, a esas alturas, parecía sencillo: servirse de las máquinas estadísticas que se habían utilizado para organizar las tarjetas de identidad de los soldados americanos con el objetivo de contener la oleada de literatura gris a la que se enfrentaban las bibliotecas especializadas. La confianza era alta. Empezaba a circular el rumor de que la guerra se había ganado gracias a matemáticos y computadoras –en aquella época, una computadora era una mujer que realizaba a mano las operaciones que después se automatizarían en circuitos de silicio. Mediante sus cálculos habían logrado descifrar los mensajes de la inteligencia alemana y con ello había surgido el convencimiento de que el lenguaje se podría reducir a los números, es decir, se haría computable.
Sin embargo, los bibliotecarios ingenieros que trataban de resolver este problema pronto toparon con una dificultad insoslayable. Una dificultad, por otro lado, muy familiar para cualquiera: nadie ordena los libros del mismo modo. De manera que los expertos que tenían que evaluar cómo habían organizado esas máquinas una determinada colección de artículos, pronto tuvieron que reconocer que eran incapaces de ponerse de acuerdo sobre cuál sería la manera ideal de ordenar una biblioteca. Ni que decir tiene que las dificultades deberían ir en aumento si los documentos que había que organizar, en lugar de ser artículos científicos hiperespecializados, comenzaran a ser productos culturales de interés público.
Para resolverlo se creó una métrica muy polémica entre los miembros de esta comunidad –una comunidad que, en buena medida, alumbró la disciplina que todavía llamamos 'inteligencia artificial'. Esta métrica, denominada 'relevancia', establecía un criterio universal para medir el encaje de un documento en una determinada colección. O, dicho de otro modo, daba una medida numérica de lo bien que las inteligencias artificiales habían ordenado una biblioteca. Era algo así como establecer el metro en el sistema métrico, pero en lugar de medir el espacio se medía el significado, algo mucho más maleable y subjetivo.
En realidad, se estaba escondiendo debajo de la alfombra el problema principal del desorden de los libros: si dos personas nunca se pondrán de acuerdo en cómo organizar una biblioteca, ¿cómo puede existir tal cosa como un patrón universal del orden libresco? Uno de los ingenieros bibliotecarios más reacios a adoptar ese patrón escribía en una revista especializada: «Ningún método cuantitativo permitirá eludir la responsabilidad de evaluar las contribuciones individuales. Yo puedo decir, por ejemplo, que las nueve sinfonías de Beethoven representan una contribución más importante que la única sinfonía de César Franck, pero eso es porque estoy preparado para hacer un juicio de valor sobre cada una de las sinfonías».
Se trataba, al fin y al cabo, de encontrar un método algorítmico que permitiese sustituir el 'juicio de valor' individual por un criterio que se aplicase en cada caso, es decir, de automatizar el juicio de aquellos que, por su profesión, educación y experiencia, poseían un saber particular. Se producía así un trasvase de poder: las antiguas profesiones liberales que habían dominado la esfera pública perdían peso frente a la clase de los ingenieros, cuya influencia social iba en aumento. Las plataformas digitales que tejen el entramado de nuestros 'feeds' están sustituyendo el trabajo que antes hacía un editor en un periódico o un programador en una cadena de televisión. Cuando escuchamos una radio digital, los algoritmos que eligen la siguiente canción imitan el criterio de un pinchadiscos. Al seguir la recomendación de una plataforma de vídeo sustituimos el trabajo de un crítico o un prescriptor cultural. Estas figuras estaban preparadas para hacer un juicio de valor sobre lo que leíamos, escuchábamos o veíamos. No así las plataformas digitales, que basan sus decisiones en un criterio opaco –sus algoritmos– que está protegido por leyes de propiedad intelectual.
A menudo, cuando pensamos en un experto, nos viene a la mente un tecnócrata. Sin embargo, también son expertos los traductores, periodistas, ilustradores, bibliotecarios, editores, pinchadiscos, doctores, enfermeros, profesoras, conductores y un largo etcétera en el que habría que incluir todas las profesiones en las que alguien toma una decisión en base a la experiencia y el conocimiento. Estas decisiones conforman el espacio de la vida pública tal y como lo conocemos. Presuponen la existencia de multiplicidad de criterios y razones que pueden ser auditados y contrastados en cualquier circunstancia. Si desaparecen esas profesiones, con sus formas de decisión informada y responsable, se cierra también el espacio público que resultó precisamente de su ejercicio. Esa historia política es la del auge de las democracias liberales y la constitución de la esfera pública –un proceso que en su día estudió Jürgen Habermas y que hoy están reevaluando teóricos como Frank Pascuale, Marion Fourcade o Francesca Bria.
Desde la época de los bibliotecarios ingenieros hasta el presente, las compañías que desarrollan estos sistemas inteligentes han regresado una y otra vez al argumento de que no nos podemos fiar del criterio de los expertos. Que su opinión nunca puede ser neutral, que siempre esconde alguna forma de interés o prejuicio, incluso cuando ellos mismos ignoran su existencia (lo que en inglés se denomina 'bias' y en español 'parcialidad'). La promesa es que estos sistemas que carecen de un sujeto que tome decisiones serán más objetivos e imparciales que las decisiones que podría tomar cualquiera de nosotros. No deberíamos olvidar, por otro lado, que cualquier decisión (también las automatizadas) requiere un juicio y que, cuando tratamos con estos sistemas automáticos, la decisión ha sido desplazada al diseño de unos algoritmos que siempre responden a una determinada manera de ver el mundo.
Como intuyeron con clarividencia los bibliotecarios ingenieros, todos los órdenes responden a una determinada manera de entender (y de producir) el mundo. No existe un orden ideal de las bibliotecas. Cuando las compañías tecnológicas se apoyan en cantidades ingentes de datos para decirnos que, en realidad, podemos descifrar ese orden ideal, en el mejor de los casos nos están diciendo que podemos mantener el 'statu quo' tal y como lo conocemos –racionalizar todas las desigualdades que existen y verlas bajo un tamiz objetivo. En el peor, que el mundo debería parecerse más a como ellos lo imaginan. Lo que el desorden de los libros nos recuerda es que, lo mismo que dos personas nunca ordenarían una colección del mismo modo, el juicio humano no puede reducirse a un mismo proceso automático.
Xavier Nueno es investigador en la Escuela Politécnica Federal de Lausana.