La ética de lo digital y en especial de la Inteligencia Artificial (IA) está ganando gran atención por muy diversos sectores. Sin embargo, como ocurre frecuentemente con la ética, es importante evitar reduccionismos que la conviertan en una herramienta justificadora de tendencias, en lugar de ser el principio sobre los cual construir una mejor y más sostenible sociedad.
Una ética que catalice un desarrollo sostenible no puede limitarse a un movimiento negativo o simplemente crítico. Esta ética tiene que ser positiva y constructiva, con contenidos que ayuden dibujar un horizonte que alimente la planificación y las acciones concretas. La sociedad tiene que construir de forma colectiva los mecanismos de defensa necesarios para mitigar los riesgos de la digitalización y potenciar los usos que generan un impacto positivo y, necesariamente, sistémico para conseguir los objetivos de la Agenda 2030 y más allá.
Esta ética no está exenta de problemas y retos. Si bien debería estar siempre en vigilancia y ser proactiva, en estos momentos en los que está emergiendo una nueva revolución industrial que avanza a ritmos vertiginosos, la urgencia es aún mayor. La propia visión del ser humano en lo individual y en lo colectivo está en revisión. Crisis como la producida por la covid-19 suponen todavía más problemas en los que la urgencia de soluciones puede chocar con la construcción de un desarrollo sostenible digital responsable. Los retos podrían configurarse en cuatro áreas: los valores y bienestar individual, valores y bienestar colectivo, convivir con la complejidad y casar ciencia y ética.
El mundo se ha convertido en un sistema muy complejo e interconectado geográficamente y entre sectores. Una visión simplemente individual de la ética ya no es adecuada para hacer frente a los problemas globales. La visión colectiva tiene que nacer fruto del consenso para poder tener alcance global. En ese sentido los Objetivos de Desarrollo Sostenible (ODS) son un consenso del planeta y son válidos para guiar el avance tecnológico y alimentar la reflexión ética.
Diversas agencias de Naciones Unidas y algunas empresas y grupos académicos desde hace cerca de una década han apostado por la cooperación digital y los datos como catalizadores del desarrollo sostenible. A lo largo de este período otras organizaciones del desarrollo se han sumado a este movimiento. Ello ha dado lugar a numerosos casos de éxito y alianzas, sin embargo, tenemos ya evidencias de que aplicaciones de IA pueden tener efectos negativos en ciertos ODS, en concreto, los expertos en consenso consideran que puede resultar un inhibidor del 35% de los 169 retos de los ODS. La ética tiene, además, una oportunidad para articular los objetivos con las prácticas de individuos, organizaciones y actores sociales, alineando intereses públicos y privados y la sociedad civil.
Un optimismo ciego en las tecnologías digitales puede ser contraproducente y el análisis de estos compromisos requiere de mucha más investigación. Los impactos negativos, además, suelen amplificarse en regiones y grupos poblaciones vulnerables. La ética, aunque tenga objetivos globales, no puede dejar de abogar por el individuo y sus valores. Esto es un reto importante, ya que los valores individuales dependen fuertemente de la cultura y de lo concreto de cada región del mundo.
Los métodos de IA buscan ser generalistas, pero la necesidad del desarrollo nos obliga a recorrer también el camino contrario y desarrollar ciencia de lo específico, algo en lo que algunas ciencias sociales pueden enseñar mucho a los tecnólogos. Esto se traduce en el gran problema que desde las agencias de las Naciones Unidas han identificado desde hace tiempo, ¿qué datos usamos en aquellas regiones o personas que apenas producen datos? ¿Podemos aplicar los mismos métodos en todas las regiones del mundo? Los esfuerzos científicos, de innovación y de estrategia en esta dirección son vitales.
Vivimos en una sociedad, además, muy dinámica. Tradicionalmente, se ha pensado en el desarrollo a medio y largo a plazo, mientras que algunas regiones del mundo viven en constante alerta e inseguridad de diverso tipo (sanitaria, alimentaria, climática). La crisis de la covid-19 nos ha sacudido especialmente porque no tenemos los mecanismos de respuesta necesarios. La tecnología ha demostrado ser útil para crear sistemas de alerta temprana, monitorización y medición de impacto. Poder asegurar los valores éticos colectivos e individuales requiere crear mecanismos reales que los garanticen y los preserven incluso en crisis al igual que hay mecanismos para asegurar los derechos humanos. La tecnología es clave para construir estos mecanismos (humanitarios) de respuesta, resiliencia y atención, lo cual supone una visión muy diferente a pensar la ética como mera observadora y critica de la tecnología. Este objetivo debe ser global, muchas regiones del mundo están en clara necesidad de estas herramientas tecnológicas.
Esto nos lleva pensar las relaciones entre ética y ciencia de manera más profunda. No es suficiente con que la ética reflexione sobre la ciencia como objeto, la ciencia tiene que formar parte de la ética porque le ayuda a comprender el mundo. Los esfuerzos en explotar los datos y la IA para el desarrollo no han hecho más que empezar. Dada la complejidad y dificultad de este campo, además de fuertes intereses, corremos un serio riesgo de hacer ciencia a medias que pueda tener efectos negativos y difíciles de revertir. La ética debe abordar el problema de los sesgos y evaluar el impacto de la IA, pero también de la calidad humana de los datos y estas, desgraciadamente, no son prácticas habituales de la ciencia actual.
Ética y ciencia, social y analítica, tienen que ir de la mano si queremos cumplir con los ODS y pensar en una futura sociedad donde los algoritmos tomen decisiones y las máquinas —que posiblemente se irán humanizando— y las personas interactúen de manera habitual en todos los aspectos de la vida. Sin duda, el rigor, la creatividad y los procesos colectivos de inteligencia son claves para configurar y practicar esta necesaria nueva ética.
David Pastor Escuredo es experto en Data e Inteligencia Artificial para el Desarrollo, en el Centro de Innovación en Tecnología para el Desarrollo Humano, Universidad Politécnica de Madrid (LifeD Lab).