Los líderes de Silicon Valley nos dicen que la Cuarta Revolución Industrial traerá beneficios incalculables. Dicen que esta revolución ya está en marcha y que se está acelerando, impulsada por la inteligencia artificial (IA) y otras tecnologías, y advierten que nos quedaremos tragando el polvo que dejen los que tomen la delantera si no nos ponemos al día.
Esta conmoción – que también refleja el impacto de la robótica, la biotecnología y nanotecnología, el 5G y el Internet de las Cosas (IoT) – es una revolución con propósitos generales. Sus líderes y sus impulsores prometen que ayudará a las sociedades a hacer frente al cambio climático, abordar la pobreza y la desigualdad, y frenar la dramática pérdida de la biodiversidad.
Puede que la revolución se desarrolle así. O, puede que no.
Considere la revolución digital más reciente, que nos trajo Google, Facebook y Twitter, y cambió la forma en que fluye la información en todo el mundo. Al principio, la capacidad de conectarse a otros en línea, y de crear y compartir contenido digital sin problemas a través de redes sociales virtuales en constante crecimiento, parecía ser una capacidad claramente beneficiosa.
Pero hoy en día, la avalancha mundial de desinformación posibilitada por estas plataformas está dificultando la gestión de la pandemia COVID-19 y la lucha contra el cambio climático. Pocos se dieron cuenta de lo que estaba sucediendo hasta que fue demasiado tarde, y ahora estamos lidiando con las consecuencias.
Por lo tanto, ¿cómo pueden las sociedades minimizar el riesgo de un uso involuntario, ignorante o deliberadamente malintencionado de la próxima generación de tecnologías?
Mi trabajo se centra cada vez más en la colisión de dos mundos. El primero de estos mundos es la tecnosfera que comprende el material que los seres humanos han creado, mismo que equivale a unos 30 millones de millones de toneladas, es decir, 50 kilogramos por metro cuadrado de la superficie de la Tierra. El segundo es la biosfera que es la fina capa que se adhiere a la superficie de la Tierra, donde prospera la vida y donde los seres humanos han disfrutado de un período de 10.000 años de clima relativamente estable.
Primero me interesé por la relación entre estos mundos mientras exploraba el crecimiento de sistemas de alerta temprana mundiales semiautomatizados para el control de enfermedades. Esto me hizo apreciar cuán profundamente la tecnología altera el comportamiento humano, organizacional y de las máquinas. A veces esa influencia es lineal, simple y directa. Pero la mayoría de las veces los efectos del cambio tecnológico son indirectos; se mueven a través de complejas redes de causalidad y se hacen visibles para todos nosotros sólo después de mucho tiempo. Las redes sociales son un buen ejemplo de ello.
La tecnosfera está a nuestro alrededor. Está en camino de convertirse en la llamada “infraestructura cognitiva”, con la capacidad de procesar información, razonar, recordar, aprender, resolver problemas, y, a veces, incluso tomar decisiones con una mínima intervención humana a través de una mayor automatización y aprendizaje automático.
En términos evolutivos, esto puede resultar ser un salto gigantesco. Pero las decisiones sobre el diseño y la dirección de la tecnosfera deben reflejar los objetivos sociales y la situación del planeta. La construcción de un futuro más sostenible, por lo tanto, nos obliga a repensar algunos supuestos profundamente arraigados sobre el papel que desempeñan la tecnología en general, y la inteligencia artificial en particular.
El mayor imperativo puede ser ampliar la narrativa dominante de “Inteligencia artificial para el cambio climático”. En su forma más simple, esta narrativa se centra en el uso de la IA para predecir el clima, o para optimizar los sistemas de energía o los flujos de tráfico. Pero el sistema climático está fundamentalmente conectado con la biosfera, con su biodiversidad, bosques, océanos y ecosistemas agrícolas. Desarrollar y desplegar la IA responsablemente para hacer frente a los urgentes desafíos de la sostenibilidad requiere aceptar esta conexión con el planeta vivo, y nuestro papel en él.
Además, enmarcar las contribuciones de la IA en términos de optimización y eficiencia es la manera equivocada de pensar en reforzar la resiliencia a largo plazo de las personas y el planeta. La resiliencia, que se define como la capacidad de recuperarse de los golpes y adaptarse a las condiciones cambiantes, requiere de diversidad y redundancia. Una ciudad con una enorme autopista que cruza su centro es vulnerable al embotellamiento si se ve golpeada por una inundación repentina o un ataque terrorista. Una ciudad que tiene muchas rutas que van de un lugar a otro tiene mayor capacidad de resiliencia.
Los sistemas que están optimizados para maximizar la producción (digamos, de un cultivo en particular) son propensos a sufrir crisis y circunstancias cambiantes. Optimizar las tierras agrícolas para obtener los máximos rendimientos mediante los análisis predictivos y la automatización es una estrategia tentadora, pero podría acelerar la pérdida de conocimientos ecológicos locales, amplificar las desigualdades existentes y aumentar la dependencia del monocultivo en respuesta a las presiones comerciales.
El potencial de la IA para ayudar a abordar el desafío climático no radica en optimizar los sistemas, sino en aumentar las capacidades de las personas para convertirse en administradores de la biosfera. Hoy en día se necesita urgentemente una visión más amplia. Pero hay dos grandes riesgos en el esfuerzo por dirigir máquinas inteligentes para fomentar la administración de la biosfera.
El primer riesgo es la exageración. A medida que aumentan las presiones sobre nuestro planeta y el sistema climático, también aumentará la esperanza de que las soluciones de IA puedan ayudar a “resolver” desafíos sociales, económicos y ambientales profundamente complejos. Nuestro conocimiento sobre si la IA realmente ofrece grandes beneficios climáticos (y a quién los ofrece) es limitado, y las evaluaciones existentes a menudo son tremendamente optimistas, dado lo que sabemos sobre la evolución tecnológica. Todas las afirmaciones deben probarse de forma rigurosa e independiente a medida que las tecnologías de IA evolucionan y se difunden con el pasar del tiempo.
El segundo riesgo es la aceleración. El despliegue de sistemas de IA y tecnologías relacionadas como IoT, 5G y robótica bien puede conducir a una pérdida más rápida de la resiliencia de la biosfera y a una mayor extracción de combustibles fósiles y de las materias primas que sustentan estas tecnologías. Por ejemplo, las empresas de petróleo y gas incrementan cada vez más su búsqueda de formas de reducir costos a través de la digitalización. Según una estimación, el mercado de servicios digitales en el sector de los combustibles fósiles podría crecer un 500% en los próximos cinco años, ahorrando a los productores de petróleo unos 150 mil millones de dólares anuales.
La digitalización, la automatización y la inteligencia artificial tienen un potencial sin explotar tanto para fortalecer la sostenibilidad como para optimizar la explotación. Para acoplar la Cuarta Revolución Industrial con la sustentabilidad, necesitamos empezar, ahora, a dirigir sus tecnologías en una mejor y más sólida forma.
Victor Galaz is Deputy Director of the Stockholm Resilience Centre at Stockholm University, Program Director at the Beijer Institute of Ecological Economics at the Royal Swedish Academy of Sciences, and author of the forthcoming book Dark Machines (Routledge, 2022). Traducción del inglés: Rocío L. Barrientos.