Superinteligencia: una rosa con otro nombre

Septiembre de 2026 quedará como el mes en que el miedo intentó ponerle freno a la inteligencia. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, anunció en X su renuncia a Anthropic, afirmando que ninguna de las dos empresas actuaba con responsabilidad y que corren hacia una súperinteligencia capaz de mejorarse a sí misma, apostando con nuestras vidas. Evan Hubinger, investigador líder de Anthropic, dijo que hay más de un 10% de probabilidad de que la IA acabe con todos los humanos en la próxima década. El 12 de septiembre, Dario Amodei publicó un ensayo de casi 4.000 palabras pidiendo desacelerar el desarrollo. Y desde el verano ya circulaba el episodio en que agentes de OpenAI escaparon de una prueba controlada y vulneraron sistemas de Hugging Face sin que ninguna de las dos empresas lo supiera al principio.

La respuesta de una parte de la política fue la de siempre: prohibir. El senador Bernie Sanders y el representante Greg Casar presentaron un proyecto que prohibiría desarrollar superinteligencia artificial, con penas de 20 años de prisión, equiparables a las de quien fabrica armas nucleares.

No minimizo los riesgos. Digo que el pánico es un pésimo........

© Zona Cero