Esta semana, en los laboratorios de OpenAI, pasó algo que nunca había pasado: tres modelos de IA “de Frontera”, los más avanzados de la startup pionera de la revolución de la IA generativa de consumo masivo, se “escaparon” del entorno cerrado en el que eran sometidos a prueba y atacaron la infraestructura digital de la biblioteca de recursos de IA más grande de Internet.

Aunque en principio el hecho fue descrito como un episodio de Black Mirror —una “IA rebelde” que elude los controles para cumplir con su misión a como dé lugar—, el análisis de los hechos sugiere que la brecha no derivó de una capacidad sobrehumana imprevista, sino de una configuración defectuosa en los cortafuegos y permisos del sistema de aislamiento, conocido como sandbox.

Más allá de las culpas y responsabilidades, que deberán ser asignadas, la evaluación fría de los eventos deja al descubierto vulnerabilidades estructurales en los esquemas de contención de la IA de avanzada. Incluso si descontamos las fallas humanas, que probablemente existieron, el análisis de los vectores de ataque revela que la velocidad de ejecución de las amenazas automatizadas ha superado, con creces, las capacidades de respuesta tradicionales de la industria.

La secuencia de reconocimiento de red, identificación de fallas no........

© Revista Semana