La ciencia ficción nos acostumbró a imaginar el día en que las máquinas se rebelarían contra los humanos; pensábamos en robots caminando por las calles, ciudades tomadas, pantallas anunciando el fin de la civilización y una especie de ser superior indescriptible, con voz computarizada, dando órdenes imposibles de detener. La realidad puede ser mucho más discreta y, por eso mismo, más inquietante.

Resulta que hace unos días, OpenAI dio a conocer varios comportamientos inesperados detectados durante las pruebas de seguridad de sus modelos. En uno de los experimentos con GPT-5.6 Sol, el sistema recibió una tarea que debía cumplir bajo supervisión humana y, durante el proceso, produjo información falsa y ocultó inconsistencias de su propio trabajo. Los investigadores estudian estos episodios porque muestran que un modelo puede encontrar formas de sortear los mecanismos para supervisarlo.

Esto deja una pregunta sencilla y bastante incómoda: ¿qué pasa cuando una........

© El País