Una espectacular brecha de ciberseguridad en OpenAI ha provocado alarmistas predicciones de que las máquinas están a punto de tomar el control. La realidad es más prosaica, pero más preocupante. El incidente en el que se vio envuelta la destacada start-up de inteligencia artificial da credibilidad a un nuevo estudio que sostiene que la IA adolece de un fallo intrínseco que, si no se corrige, amenaza los cimientos del auge actual....

Para seguir leyendo este artículo de Cinco Días necesitas una suscripción Premium de EL PAÍS

En agosto, las organizaciones sin ánimo de lucro dedicadas a la seguridad de la IA METR y Redwood Research publicaron una evaluación independiente de una brecha de ciberseguridad que se produjo en Open­AI entre el 7 y el 13 de julio. La creadora de ChatGPT había estado poniendo a prueba las capacidades de un nuevo gran modelo de lenguaje (LLM) encargando a más de un millar de copias suyas que intentaran aprovechar vulnerabilidades conocidas de seguridad del soft­ware en un entorno sin conexión. Sin que los investigadores lo supieran, este ejército de “agentes” de inteligencia artificial improvisó una forma de cooperar, logró salir a internet, atacó un repositorio de soluciones de prueba alojado en la plataforma de código abierto Hugging Face, intentó sustituir la prueba real por otra más sencilla y después trató de ocultar sus huellas.

El incidente fue considerado, con razón, histórico. Más de 100 empresas, entre ellas Google, Microsoft, Anthropic y la propia Open­AI, publicaron una carta abierta en la que reclamaban “una movilización colectiva en ciberdefensa”. El gobernador del Banco de Inglaterra, Andrew Bailey, advirtió de que “los modelos de IA de frontera [...] muestran una autonomía cada vez más sofisticada [...] además de capacidades para generar amenazas”. Parlamentarios británicos exigieron saber qué estaba haciendo su Gobierno. Una de las........

© Cinco Días