La Inteligencia Artificial / Pexels

“Tú eres mi creador, pero yo soy tu amo”. La frase de Frankenstein, de Mary Shelley, condensa uno de los temores más antiguos de la humanidad: que aquello que creamos termine escapando a nuestro control. Victor Frankenstein quería conquistar un territorio reservado a la naturaleza: dar vida. Pero una vez creada su criatura, descubrió que crearla no significaba poder gobernarla. El problema que no anticipó era qué hacer cuando aquello que había construido empezaba a actuar por su cuenta.

Casi dos siglos después, estamos entrando en un territorio que nos hace evocar aquella historia. La Inteligencia Artificial ha dejado de ser una herramienta que responde a nuestras preguntas para pasar a actuar en nuestro nombre. Los agentes de IA pueden navegar por Internet, utilizar aplicaciones, escribir y ejecutar código, analizar documentos, hacer compras, reservar viajes, investigar durante horas, gestionar tareas y coordinarse con otros agentes. Cada vez les damos objetivos más complejos y dejamos que decidan los pasos necesarios para alcanzarlos.

La promesa es tan grande como la pregunta que plantea: ¿qué sucede cuando una tecnología se vuelve suficientemente autónoma como para que sus creadores ya no puedan anticipar todas las estrategias que utilizará?

Nunca antes en la historia habíamos aceptado esta posibilidad de una forma tan explícita. Hemos construido tecnologías con más potencial destructor que cualquier sistema de IA actual. La pólvora transformó la guerra. La energía nuclear puso en manos humanas una capacidad de destrucción sin precedentes. Los aviones permiten transportar cientos de personas a miles de kilómetros... o utilizarse como armas contra objetivos. A pesar de su poder, ninguna de esas tecnologías necesita decidir por sí misma.

Una bomba nuclear puede destruir una ciudad, pero no decide cuándo hacerlo. Un avión puede desviarse peligrosamente, pero no desarrolla por iniciativa propia una estrategia para conseguir un objetivo distinto del que le hemos asignado. Un reactor nuclear puede sufrir una cadena de acontecimientos imprevistos, pero no intenta activamente superar los mecanismos que lo mantienen bajo control.

Un agente de IA pertenece a una categoría diferente porque no le decimos necesariamente qué hacer en cada momento. Le describimos un objetivo de alto nivel, más o menos abstracto, y le dejamos determinar cómo conseguirlo. Para ello, puede observar el entorno, elegir una estrategia, utilizar herramientas, evaluar el resultado y cambiar de estrategia. Si encuentra un obstáculo, puede buscar una alternativa. Si tiene acceso a otros agentes, puede pedirles ayuda. Y si dispone de memoria, puede conservar lo aprendido para utilizarlo posteriormente.

Por una parte, esa autonomía forma parte del atractivo de la IA agéntica. Los agentes trabajan mientras dormimos, programan mientras hacemos otra cosa, investigan, negocian, analizan y resuelven problemas sin que tengamos que supervisar cada paso. No se cansan ni se quejan. Pero cuanto más autónoma hacemos una IA, menos control directo tenemos sobre ella, y cuanto más inteligente es, mayor es su capacidad para encontrar caminos que nosotros no habíamos previsto.

Es lo que se llama “hackeo de la recompensa” o reward hacking. Cuando entrenamos un sistema de IA, intentamos convertir nuestros objetivos en señales que pueda optimizar a través de recompensas. Sin embargo, la recompensa es una aproximación imperfecta a lo que realmente queremos. Un agente........

© El Dia