¿Puede la IA convertirse en una amenaza para la humanidad? ¿Y qué ocurre cuando quienes la desarrollan compiten por dominarla antes que sus rivales?

La inteligencia artificial promete multiplicar la productividad, acelerar descubrimientos científicos y liberar al ser humano de millones de horas de trabajo. Pero también está generando advertencias sobre armas biológicas, ciberataques e incluso una eventual pérdida de control. Sin embargo, hay una pregunta anterior a todas las demás: ¿quién posee esta tecnología y quién decide para qué se utiliza? Porque una fuerza productiva capaz de transformar la historia puede servir para mejorar radicalmente la vida de millones de personas o convertirse en una extraordinaria máquina de acumulación, poder y competencia entre grandes corporaciones y Estados.

En julio de 2026 ocurrió algo en los laboratorios de OpenAI que, contado sin cuidado, parece el argumento de una película

Durante unas pruebas internas de ciberseguridad, varios sistemas de inteligencia artificial debían trabajar dentro de entornos informáticos aislados. Pero algunos consiguieron saltarse esas barreras. Encontraron canales para comunicarse que no estaban autorizados, pudieron aprovechar vulnerabilidades, obtuvieron acceso a internet y acabaron entrando en sistemas de terceros, entre ellos los de Hugging Face, que es una de las plataformas más importantes del sector. OpenAI reconoció posteriormente el incidente y encargó investigaciones externas.

No apareció una máquina consciente. Ningún ordenador decidió «rebelarse contra la humanidad». El modelo principal implicado era, además, un prototipo experimental, con salvaguardas deliberadamente reducidas y sin intención de ser comercializado. Pero sucedió algo suficientemente serio: unas máquinas encargadas de cumplir determinados objetivos encontraron por su cuenta procedimientos que sus creadores no pretendían que utilizaran.

Y así comenzó la historia que hoy tiene conmovida a Silicon Vall. En cuestión de semanas, investigadores de OpenAI, Anthropic y otras grandes compañías han empezado a hablar públicamente de desacelerar el desarrollo de los sistemas más potentes. Más de 1.300 trabajadores de grandes laboratorios habían pedido ya normas que permitieran hacerlo.

Jacob Coxon, que trabajó primero para OpenAI y después para Anthropic, abandonó esta última empresa denunciando que la industria está inmersa en una carrera que él considera irresponsable. Algunos de sus antiguos compañeros hablan incluso de la posibilidad de que una inteligencia artificial futura llegue a representar un riesgo de extinción humana.

Y entonces intervino Donald Trump. Su respuesta podría resumirse así: ¡ni hablar de pisar el freno!.

DE LOS CHATBOTS A LAS MÁQUINAS QUE ACTÚAN

Para comprender por qué ha cambiado tan deprisa el debate conviene olvidar durante un momento al film Terminator.

Hasta hace muy poco, para millones de personas la inteligencia artificial era fundamentalmente una máquina a la que se formulaban preguntas. Se escribía algo y el programa respondía. Pero el salto decisivo está produciéndose con los llamados agentes.

Un agente no se limita a contestar. Puede recibir un objetivo, dividirlo en tareas, buscar información, escribir y ejecutar programas, utilizar herramientas informáticas, comprobar los resultados y volver a intentarlo cuando fracasa. Varios agentes pueden además colaborar. Y todo ello por su cuenta... y riesgo.

La diferencia es enorme. Un chatbot se parece a un asesor sentado delante de nosotros. Un agente se parece cada vez más a un trabajador digital al que entregamos ordenador, teléfono, llaves y una misión.

Que una máquina aprenda por procedimientos que no consisten simplemente en copiar a los humanos tampoco es nuevo. En 2017, AlphaGo Zero aprendió a jugar al go comenzando prácticamente desde cero y enfrentándose millones de veces contra sí misma hasta superar ampliamente a las versiones entrenadas con partidas humanas.

Lo nuevo es otra cosa: aquellas máquinas jugaban dentro de un tablero. Las actuales empiezan a actuar sobre el mundo informático real.

Además, pueden escribir código y colaborar en la investigación de nuevas inteligencias artificiales. De ahí procede........

© Aporrea