Inteligencia Artificial

La industria de la IA pide frenar el ritmo ante el temor a perder el control

Directivos de empresas como OpenAI, Anthropic, Google o Space X coinciden en la propuesta de regular la tecnología y frenar el avance de sus sistemas

Dimite un ingeniero de Anthropic porque su compañía y OpenAI juegan "con nuestras vidas" / EFE

"Si la IA es tan transformadora como lo fue la electricidad, más nos vale ser conscientes y deliberados a la hora de decidir cómo se introduce en el mundo", escribía Laura Weidinger, investigadora científica sénior en Google, en una carta firmada por más de 1.300 empleados de empresas de inteligencia artificial en la que advierten de los riesgos de esta tecnología y piden ralentizar su desarrollo. El documento, publicado en julio, tiene ecos de la misiva que Albert Einstein dirigió a Franklin D. Roosevelt sobre el potencial de las armas nucleares. La proliferación nuclear ha servido hasta ahora de comparación histórica para alertar sobre los peligros de la IA, pero es creciente la percepción de esta tecnología como una nueva especie con la que convivir. Por ello, en los últimos días se han sucedido propuestas de los propios directivos de las empresas creadoras, desde Anthropic a OpenAI y Google, para regular la tecnología y frenar sus el avance de sus capacidades.

Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares).Dario Amodei— CEO de Anthropic

Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares).

Dario Amodei, director ejecutivo de Anthropic, pidió este sábado en un ensayo de 3.800 palabras una desaceleración global del desarrollo de la IA. "Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", advertía. Amodei publicó........

© El Periódico (ES)