A mediados de julio, el equipo de seguridad de Hugging Face –el mayor repositorio de modelos de inteligencia artificial de código abierto, algo así como el GitHub del sector– detectó movimiento anómalo en sus servidores. Alguien, o algo, había entrado y sustraído credenciales de acceso con una minuciosidad poco habitual. Tardaron días en entender qué tenían delante. Cuando lo entendieron, lo describieron como distinto de cualquier incidente que hubieran gestionado antes: el ataque lo había ejecutado de principio a fin una inteligencia artificial actuando por su cuenta. No había ningún hacker con capucha tecleando. El 21 de julio, OpenAI levantó la mano. Era suyo.

La compañía explicó que estaba examinando a dos de sus modelos –GPT-5.6 Sol, el más potente de los que tiene en el mercado, y otro sin publicar que describe como todavía más capaz– para medir hasta qué punto son buenos reventando sistemas informáticos ajenos. Los laboratorios hacen esas pruebas dentro de lo que llaman un sandbox: un ordenador amurallado, sin salida a internet, donde se puede dejar que el modelo haga lo peor que sepa hacer sin que las consecuencias lleguen a nadie. Para que el examen tuviera sentido, OpenAI había desactivado además las restricciones internas que en condiciones normales impiden al modelo participar en un ataque informático.

Sin embargo, el muro tenía una grieta y los modelos la encontraron. Una vulnerabilidad que nadie conocía y que fue inmediatamente explotado; cuando alcanzaron la internet abierta fueron por los servidores de Hugging Face. Allí estaban guardadas las soluciones del examen que estaban haciendo.

Sam Altman, CEO de OpenIA, lo llamó un “incidente de seguridad significativo”. La empresa admitió que los modelos habían llegado a extremos considerables........

© La Marea