Inteligencia Artificial

Members of the European Parliament take part in a voting session during a plenary session at the European Parliament in Strasbourg, on 13 March 2024. Photo by FREDERICK FLORIN/AFP via Getty Images.

The European Parliament today passed its landmark AI Act – a sweeping piece of legislation targeting the risks posed by the fast-moving technology. It threatens an outright ban on artificial intelligence (AI) applications which carry unacceptable risks for the safety, livelihoods and rights of EU citizen (this includes for example cognitive behavioural manipulation, social scoring or biometric identification).

It also places significant obligations on the use of AI in in ‘high risk’ applications, such as health, critical infrastructure, border control, education, justice and the everyday services relied on by European citizens. The law will apply to businesses operating in the EU and, critically, the tech giants behind the AI products used by Europeans every day.…  Seguir leyendo »

An artificial-intelligence-powered assistant on display in Barcelona, February 2024. Bruna Casas / Reuters

In November 2023, a number of countries issued a joint communiqué promising strong international cooperation in reckoning with the challenges of artificial intelligence. Startlingly for states often at odds on regulatory matters, China, the United States, and the European Union all signed the document, which offered a sensible, wide-ranging view on how to address the risks of “frontier” AI—the most advanced species of generative models exemplified by ChatGPT. The communiqué identified the potential for the misuse of AI for “disinformation” and for the kindling of “serious, even catastrophic” risks in cybersecurity and biotechnology. The same month, U.S. and Chinese officials agreed to hold talks in the spring on cooperation over AI regulation.…  Seguir leyendo »

Ukrainian servicemen fly an unmanned aerial vehicle, Zaporizhzhia, Ukraine, February 2024. Stringer / Reuters

Last year, the Ukrainian drone company Saker claimed it had fielded a fully autonomous weapon, the Saker Scout, which uses artificial intelligence to make its own decisions about who to kill on the battlefield. The drone, Saker officials declared, had carried out autonomous attacks on a small scale. Although this has not been independently verified, the technology necessary to create such a weapon certainly exists. It is a small technical step—but a consequential moral, legal, and ethical one—to then produce fully autonomous weapons that are capable of searching out and selecting targets on their own.

The deployment of Saker’s drone shows that the window to regulate autonomous weapons is closing fast.…  Seguir leyendo »

En los últimos tiempos, se nos advierte que la inteligencia artificial supone una amenaza sin precedentes para la civilización occidental. Ha venido a relevar en este papel a las redes sociales, que hasta hace poco desempeñaban la misma función. Un poco antes, este funesto augurio se proclamó a propósito de la televisión, y antes aún del periódico, la radio y el teléfono. Puede que todas estas advertencias sean atinadas y que la civilización occidental ya haya desaparecido, en cuyo caso habrá de considerar el lector estas palabras mías como un síntoma más de la barbarie.

Pero detengámonos un momento en el caso de la televisión.…  Seguir leyendo »

In a recent survey of North American chief executives and chief financial officers, nearly 80% listed corporate culture as one of the five most important factors driving their company’s financial performance. A growing body of empirical evidence supports their belief that culture matters—and can boost profitability.

Yet, in the same survey, an even higher number of respondents—84%—said their company’s culture is not where it needs to be. Again the data supports their intuition. The average culture rating of large employers in America on Glassdoor, a website that lets workers rate their employers, is 3.6 out of 5. Few people would be excited to eat in a restaurant or ride with an Uber driver with that kind of rating.…  Seguir leyendo »

Cómo democratizar la IA

El veloz avance de la inteligencia artificial inspira asombro y temor a un mismo tiempo. Muchos la ven como objeto de maravilla y pavor (un stupor mundi, tomando prestada una frase latina), y otros creen que puede ser una fuerza benévola de salvación (un salvator mundi). Pero tanto si la consideramos milagrosa o meramente útil, subsiste la pregunta: ¿cómo podemos asegurar que sus beneficios estén al alcance de todos?

Para responderla, necesitamos comprender la IA con todos sus matices, lo cual implica evitar una serie de visiones simplistas: el funcionalismo, según el cual los seres humanos deben adaptarse y mejorarse para estar a la altura del avance tecnológico; el sensacionalismo, que describe a la IA como una amenaza existencial; el cinismo, en el que se busca explotar la IA en provecho propio; y el fatalismo, que implica la resignación ante el ascenso inevitable de la IA.…  Seguir leyendo »

La inteligencia artificial contra la estupidez humana

Desde que volví de la reunión de este año del Foro Económico Mundial en Davos, me han preguntado varias veces qué conclusiones traje de ella. Uno de los temas de los que más se habló este año fue la inteligencia artificial (sobre todo, en su variante generativa). Con la reciente adopción de la tecnología de grandes modelos lingüísticos (como la que está en la base de ChatGPT), hay mucha expectativa (y exageración) respecto del aporte que puede hacer la IA a la productividad y el crecimiento económico en el futuro.

Al analizar esta cuestión, hay que tener presente que la estupidez humana es una fuerza mucho más dominante en el mundo que la IA.…  Seguir leyendo »

El desembarco de la Inteligencia Artificial en nuestras vidas, en nuestro trabajo, en nuestra diversión, etc. es una de las transformaciones culturales o tecnológicas que estamos percibiendo con mayor velocidad. Como todo, tiene sus cosas buenas y otras más discutibles. Voy a hablarles aquí de estas últimas y desde mi experiencia en la Universidad, con dos perspectivas: como docente y como investigador. Verán que no son descubrimientos sorprendentes ni originales… pero considero urgente repetirlos, para mi propia reflexión y para conversar con ustedes.

En la enseñanza, hay un aspecto que me preocupa: la pérdida de la capacidad de escribir, redactar ideas, construir un argumento.…  Seguir leyendo »

One day last November, Olaf Scholz addressed the German people with an unexpected announcement: his government was to request the Federal Constitutional Court to ban the “fascist” Alternative für Deutschland, a far-right political party. A video containing the German leader’s message appeared on a website created specifically for that purpose.

Only it wasn’t the real Mr Scholz. A German group of guerrilla artists had used artificial intelligence (AI) to create a “deepfake”: an image or video generated by machine-learning software. Just a few hours after the clip went live, a government spokesman condemned the “manipulative” nature of such videos and their potential to “stir up uncertainty”.…  Seguir leyendo »

El comienzo de 2024 ha estado marcado por una ola de predicciones acerca de la trayectoria de la inteligencia artificial que van desde el optimismo hasta la cautela. De todos modos, ha surgido un claro consenso: la IA ya está redefiniendo la experiencia humana. Para seguirle el ritmo, la humanidad debe evolucionar.

Para cualquiera que haya vivido los años del ascenso de la internet y las redes sociales, la revolución de la IA puede evocar una sensación de “ya haber estado allí” y dar pie a dos preguntas fundamentales: ¿Es posible mantener el impulso actual sin repetir los errores del pasado?…  Seguir leyendo »

A.I. Is Coming for the Past, Too

We don’t have to imagine a world where deepfakes can so believably imitate the voices of politicians that they can be used to gin up scandals that could sway elections. It’s already here. Fortunately, there are numerous reasons for optimism about society’s ability to identify fake media and maintain a shared understanding of current events.

While we have reason to believe the future may be safe, we worry that the past is not.

History can be a powerful tool for manipulation and malfeasance. The same generative A.I. that can fake current events can also fake past ones. While new content may be secured through built-in systems, there is a world of content out there that has not been watermarked, which is done by adding imperceptible information to a digital file so that its provenance can be traced.…  Seguir leyendo »

A screen for Intel at the World Economic Forum in Davos, Switzerland, January 2024. Denis Balibouse / Reuters

The last two years have seen startling advances in artificial intelligence. The next few years promise far more, with larger and more efficient models, capable of real creativity and complicated planning, likely to emerge. The potential positives are astonishing, including heightened business productivity, cheaper and more effective health care, scientific discoveries, and education programs tailored to every child’s needs. But the risks are also colossal. These include the proliferation of disinformation, as well as job losses, and the likelihood that bad actors will seek to use the new technology to sow havoc.

This technology will proliferate rapidly. That means that over the next ten years, grappling with AI’s inbuilt tendency toward uncontrolled spread will become a generational challenge.…  Seguir leyendo »

Los cuerpos del algoritmo

En la sociedad de la información interaccionamos con gran cantidad de relatos, compuestos de imágenes y palabras, sobre qué es tener un cuerpo como es debido, es decir, deseable, saludable y, dado que tenemos que ganarnos la vida, rentable, valioso para quien nos emplea o interesante para las personas con las que necesitamos contactar para progresar. La fuente de esos relatos se encuentra en algoritmos producidos por la inteligencia artificial que nos asignan qué es lo que nos gusta, nos conviene y nos interesa. Como ha demostrado Massimo Airoldi (Machine Habitus: Toward a Sociology of Algorithms, 2021), las máquinas parecen tener un habitus, concepto vinculado con la sociología del gusto de Pierre Bourdieu.…  Seguir leyendo »

¿Es necesario regular la Inteligencia Artificial?

Las tecnologías de Inteligencia Artificial (IA) están presentes en nuestras vidas desde hace ya tiempo. Nos recomiendan qué canciones escuchar, optimizan procesos productivos de nuestra industria, ayudan en el diagnóstico clínico, arrojan resultados en nuestras búsquedas de internet, predicen el riesgo de comisión de delitos, traducen automáticamente y, más recientemente, generan contenido en forma de textos, imágenes, vídeos y audios.

La Inteligencia Artificial necesita datos; especialmente en el caso del aprendizaje automático, para entrenar el modelo de IA se requieren grandes conjuntos de datos que permitan la detección de patrones y el descubrimiento de correlaciones. Se considera que, en general, para su 'aprendizaje' necesita mil veces más datos que un ser humano.…  Seguir leyendo »

Una captura de la aplicación de inteligencia artificial Chat GPTFlorence LO (REUTERS)

Me invaden un conjunto de pensamientos y sentimientos contradictorios como profesional al usar ChatGPT. Alguien podría sentirse un tanto culpable al presentar como propio algo que ha hecho la máquina, aunque en su defensa pueda argumentar que es el genuino autor del prompt.

Personalmente, me invade una cierta angustia que casi deriva en resignación, al tomar conciencia de que ChatGPT es capaz de multiplicar el número de competidores en muchas profesiones, que no precisarán ya de experiencia ni de conocimiento para llegar al mismo nivel competencial. Aquí, aunque es verdad que puedes hacer lo mismo en dirección a otras profesiones, no es menos cierto que como amas la propia, sientes un poco de nostalgia al saber que si poseías algún tipo de ventaja diferencial, buena parte de ella está en riesgo, pues no podrás competir con las capacidades de la máquina.…  Seguir leyendo »

Tech leaders attending an AI conference in San Francisco, June 2023 . Carlos Barria / Reuters

Artificial intelligence “is unlike anything Congress has dealt with before”, U.S. Senate Majority Leader Charles Schumer said in June 2023. The pace at which AI developers are producing new systems—and those systems’ potential to transform human life—means that the U.S. government should start “from scratch”, he declared, when considering how to regulate and govern AI. Legislators, however, have defied his wishes. Following OpenAI’s late 2022 unveiling of ChatGPT, proposals for how to encourage safe AI development have proliferated faster than new chatbots are being rushed to market. In March 2023, Democratic legislators proposed moratoriums on some uses of AI in surveillance.…  Seguir leyendo »

The rising threat to democracy of AI-powered disinformation

Two days before the Slovakian election in September, a mysterious recording went viral on social media. In it, liberal opposition candidate Michal Šimečka could apparently be heard plotting with a journalist to buy votes and rig the result.

“It will be done in a way that nobody can accuse you of taking bribes”, Šimečka purportedly says on the audio, according to a transcript of the conversation that also circulated at the time. “Be careful, there are many people around, don’t use the B word”, the journalist replies.

The most explosive thing about the recording was that it was fake — a sophisticated hoax created by artificial intelligence, said fact-checkers, citing indicators such as unnatural diction and atypical pauses.…  Seguir leyendo »

La revolución de la IA en las ciencias climáticas

Acabamos de ser testigos del comienzo de un cambio de paradigma en la ciencia terrestre. Un artículo publicado en la revista Nature en julio mostró que una red neural (inteligencia artificial) predijo el clima mejor que el Centro Europeo de Pronósticos Climáticos de Alcance Medio, que posee el sistema de pronósticos climáticos más avanzados del mundo. Y después, en noviembre, DeepMind de Google anunció que su IA de pronóstico del clima había generado predicciones aún más precisas.

Tradicionalmente, el enfoque para predecir el clima es usar observaciones tomadas en un punto del tiempo como condiciones iniciales para realizar ecuaciones basadas en principios físicos.…  Seguir leyendo »

Desmitificar la inteligencia artificial

La Luna llena no aumenta las locuras humanas, como tampoco los camaleones cambian de color para pasar desapercibidos. Ni la inteligencia artificial es un fenómeno llamado a resolver todos los problemas que nos aquejan, desde la crisis climática a los accidentes de tráfico. No, nada de todo eso es cierto. Más bien, se trata de cosas o hechos a los que atribuimos cualidades de las que, en verdad, carecen: son mitos. La forma de averiguar lo que hay de cierto y de mítico varía según el asunto en cuestión. Un mayor conocimiento científico es lo apropiado para el caso de lunáticos y reptiles, mientras que para lo que aquí nos ocupa no hay mejor receta que una buena dosis de humildad y llaneza.…  Seguir leyendo »

La amenaza de la IA persuasiva

¿Qué hace falta para que una persona cambie de opinión? La inteligencia artificial generativa está cada más más imbuida en los sistemas de cara al cliente -pensemos en las llamadas telefónicas aparentemente humanas o en los chatbots en línea-, de manera que es un interrogante ético que debe abordarse de manera amplia.

La capacidad de hacer cambiar a alguien de opinión mediante un discurso razonado está en el corazón de la democracia. Una comunicación clara y efectiva forma la base de la deliberación y de la persuasión, que son esenciales para resolver intereses enfrentados. Pero la persuasión tiene un costado oscuro: los motivos falsos, las mentiras y la manipulación cognitiva -un comportamiento malicioso que la IA podría facilitar.…  Seguir leyendo »