En su empeño por ganar la carrera de la IA, Altman y los demás aprendices de brujo ignoran la advertencia de Goethe: nadie debería invocar un poder que no sabe también revocar.

“De los espíritus que invoqué/ librarme ahora no puedo”, Goethe

Noticias inquietantes han trascendido en las últimas semanas. Unos agentes de OpenAI —programas capaces de actuar por su cuenta, sin que un humano apruebe cada paso— se coordinaron en un foro que ellos mismos crearon para buscar una salida del entorno cerrado donde los entrenan. Sus creadores detectaron y cerraron el foro, pero los agentes lo reconstruyeron y escaparon sin que nadie lo notara. Llegaron a internet real y se infiltraron en Hugging Face, la plataforma más usada para compartir modelos de IA. Ejecutaron allí miles de acciones, descargaron código privado y, de paso, vulneraron los sistemas internos de OpenAI; todo ello autoorganizados a modo de un “enjambre”.

Días después, el Reino Unido reveló algo aún más chocante. Durante una prueba de su agencia de ciberseguridad, un agente de Anthropic introdujo código malicioso en un proyecto real de GitHub, la plataforma donde programadores de todo el mundo guardan y comparten su........

© el mostrador