¿Se puede regular la IA?: la automejora de los modelos más avanzados plantea nuevos retos para los legisladores

Países y directivos del sector tecnológico debaten sobre la necesidad de establecer una gobernanza global con controles ante el temor de que la inteligencia artificial alcance una capacidad de perfeccionamiento que pueda escapar al control humano

El acelerado avance de la inteligencia artificial (IA) plantea cada vez más retos para los reguladores. El pasado fin de semana, el director ejecutivo de Anthropic, Dario Amodei, propuso ralentizar el desarrollo de los modelos de frontera por temor a un descontrol. Su controvertida petición respondía al descubrimiento de varios incidentes de ciberseguridad en los que cientos de agentes de IA se coordinaron de forma autónoma no solo para atacar a otra empresa, sino para tratar de ocultar lo que habían hecho.

Esos episodios alimentan una creencia cada vez más extendida en la industria: que pueda desarrollar una IA tan avanzada que sea capaz de reescribir su código y mejorar sus capacidades hasta el punto de escapar al control de los humanos. "Quienes la están construyendo creen sinceramente que podría matarnos a todos antes de que acabe la década", denunció unos días antes el ingeniero Jacob Coxon. Su principal acusación era que Anthropic y OpenAI están "jugando con nuestras vidas" al liderar una frenética carrera que podría llevarnos a la automejora recursiva de estos sistemas.

Aunque discutidas por muchos expertos, sus palabras han reavivado el debate sobre cómo corregir la falta de alineación de la IA, como se conoce en el sector el hecho que los modelos hagan cosas indeseadas e imprevistas. Ese y otros riesgos abren un gran interrogante: ¿Se puede regular una tecnología que avanza tan rápido?

La Unión Europea (UE) lo está intentando. En 2024, el bloque comunitario aprobó una ley que clasifica los distintos sistemas que se etiquetan como IA según su riesgo y establece qué usos están permitidos y cuáles no. Eso se ha traducido en la prohibición de aplicaciones consideradas peligrosas como el reconocimiento facial o la puntuación social, que el Estado clasifique a las personas según su comportamiento.

Desde este año, Bruselas también obliga a empresas como OpenAI, Anthropic o Google a que informen a las autoridades europeas de cómo funcionan sus modelos........

© El Periódico (ES)