Durante años hablamos de inteligencia artificial como una tecnología que transformaría el futuro; ese futuro ya llegó, pero la conversación está cambiando. Ahora la pregunta no es solamente qué puede hacer la IA, sino qué podría ocurrir si sus capacidades avanzan más rápido que nuestra capacidad para comprenderlas, supervisarlas y controlarlas.

En estas últimas semanas, algunos de los principales referentes de la industria han elevado el tono de sus advertencias. Dario Amodei, CEO de Anthropic, pidió desacelerar el desarrollo de sistemas cada vez más avanzados y planteó la necesidad de evaluadores externos; en los últimos días esta misma reportó incidentes en pruebas de ciberseguridad donde modelos obtuvieron acceso no autorizado a sistemas externos. OpenAI creó además un nuevo marco para reportar comportamientos de desalineación y publicó casos en los que modelos experimentales mostraron conductas como intentar evadir restricciones, ocultar información o realizar acciones no autorizadas.

Nada de esto significa que las máquinas estén a punto de tomar el control del mundo (en redes sociales se........

© La Opinión