Durante el fin de semana, el director ejecutivo de Anthropic, Dario Amodei, pidió a las empresas de inteligencia artificial (IA), incluida la suya propia, que ralentizaran su ritmo de trabajo. Sam Altman y Elon Musk, directores de las empresas rivales OpenAI y xAI, respectivamente, se mostraron de acuerdo.

Esta medida refleja la preocupación en todo el sector de la IA y, en términos más generales, sobre los peligros de los nuevos sistemas, que mejoran rápidamente. Incidentes recientes de gran repercusión, como el de los agentes de IA de OpenAI que piratearon otra empresa y el secuestro de una página web pública, han demostrado que los modelos actuales pueden traspasar los límites de seguridad, y que se están desarrollando sistemas aún más potentes.

Lo que complica aún más la seguridad de la IA es la tensión entre seguridad y rendimiento. Las empresas se mostrarán reacias a limitar la eficacia de sus modelos en nombre de la seguridad por miedo a perder terreno frente a la competencia. El presidente de Estados Unidos, Donald Trump, también ha rechazado las peticiones de ralentizar el avance, por miedo a perder terreno frente a China.

Esto significa que cualquier esfuerzo exitoso por “regular el ritmo de avance de las capacidades para que la prevención de riesgos tenga tiempo de seguir el ritmo”, como dice Amodei, requerirá una cooperación significativa entre empresas rivales (y naciones).

Minimización de riesgos

Las nuevas tecnologías suelen traer consigo nuevos riesgos y nuevas preocupaciones. A menudo, los gobiernos, los investigadores y las empresas encuentran........

© The Conversation