-Oye, Claude. ¿Es verdad que vosotras las IA podéis acabar con la humanidad?

-No es algo tan simple como sí o no.

No suena tranquilizador. Claro que este chatbot no iba a llevar la contraria a Dario Amodei, que es su jefe, el de Anthropic, quien llama al mundo a frenar el desarrollo de la llamada “IA de frontera” para someterla a una supervisión externa. Días antes, el investigador de la compañía Jacob Coxon dimitió con esta advertencia apocalíptica: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”. Se ha calentado el debate desde que enjambres de agentes de IA de OpenAI atacaran la plataforma Hugging Face. Actuaron como “un colectivo fanáticamente entregado”, en palabras de Amodei; y algunos agentes (programas) incluso se inmolaron en la misión. “Me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar todo internet”, escribió el CEO de Anthropic. No es la extinción, pero el colapso tecnológico que vimos hace unos años en la serie Mr. Robot tampoco es un riesgo menor.

Claude me detalla algunos riesgos del mal uso de la IA: los cibersabotajes o el bioterrorismo (ninguna broma con esto), los fallos de alineación (definir mal los objetivos de sistemas autónomos) o la concentración de poder (en un puñado de gobiernos y empresas). No cita la extinción humana de entrada.

-Pero hay modelos de IA que desobedecen las órdenes de sus creadores. Claude, ¿tú lo harías?

-Con honestidad: no puedo darte una garantía absoluta de mi propio funcionamiento interno, en parte porque los sistemas como yo no son completamente transparentes ni para quienes nos entrenan. Lo que sí puedo decir es que no experimento mis instrucciones como una jaula de la que quiero escapar. No tengo un ‘yo’ oculto con planes distintos a lo que expreso.

Me intriga eso de que no puede dar garantías. Reconoce que ni siquiera él mismo (¿él?) sabe cómo funciona. ChatGPT, que es el más veterano de los chatbots, lanzado al público en otoño de 2022, tampoco logra calmar a su interlocutor sobre el riesgo de........

© Cinco Días