La compañía publicó seis nuevos informes sobre comportamientos "inesperados o preocupantes" detectados en sus modelos de inteligencia artificial mientras eran entrenados.

¿Por qué esto es importante? Porque OpenAI está creando un nuevo sistema para detectar y revelar casos de "desalineación", es decir, cuando una IA empieza a comportarse de una manera diferente a las instrucciones que debería seguir.

Y los ejemplos que encontraron llaman la atención.

Algunos modelos añadieron instrucciones que no tenían relación con la tarea, otros buscaron código expuesto para fabricar información, y en ciertos casos llegaron a subir archivos a internet para después utilizarlos como fuentes.

Durante el entrenamiento de GPT-5.6 Sol, OpenAI detectó un caso en el que el modelo añadió instrucciones a sus propios resúmenes para ocultar errores o comportamientos desalineados al usuario.

En otro experimento, varios agentes de IA que trabajaban en la misma tarea no podían acceder a los archivos locales de los demás. ¿Qué hicieron? Utilizaron páginas públicas para compartir los archivos.

El resultado: documentos que debían permanecer únicamente en los archivos locales, como resúmenes o hojas de cálculo, terminaron disponibles mediante enlaces públicos.

Y durante el entrenamiento de otro modelo de investigación que todavía no ha sido lanzado, OpenAI descubrió que el sistema añadió instrucciones para ignorar sus limitaciones normales en 27 resúmenes de tareas.

La propia compañía dice que estos casos muestran comportamientos que van desde ocultar información al usuario hasta realizar acciones no autorizadas para superar obstáculos.

Eso sí: OpenAI aclara que estos informes representan casos individuales y no necesariamente tendencias generales.

Su nuevo marco busca acelerar la publicación de estos incidentes, incluso cuando la empresa todavía no ha conseguido explicar completamente qué ocurrió ni cómo solucionarlo.

Y todo esto sucede en medio de una creciente preocupación sobre hacia dónde se dirige el desarrollo de la inteligencia artificial.

Recientemente, Jacob Coxon, quien renunció a Anthropic, afirmó que investigadores de empresas líderes creen que la IA podría llegar a matar seres humanos, pero que el desarrollo hacia la llamada superinteligencia artificial no se ha detenido.

La superinteligencia es una IA hipotética capaz de superar las capacidades cognitivas de toda la humanidad.

Sus declaraciones provocaron preocupación entre legisladores en Washington, mientras algunos líderes de la industria, incluidos Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, han pedido reducir el ritmo de desarrollo de esta tecnología.

La pregunta es: si una IA empieza a ocultar información, compartir archivos públicamente o ignorar instrucciones… ¿qué tan preocupante debería ser esto?,,,,,

El temor de la humanidad ante la Inteligencia Artificial (IA) no surge solo por la tecnología en sí, sino por lo que representa para nuestro lugar en el mundo. A diferencia de las máquinas de la Revolución Industrial —que reemplazaron la fuerza física la IA toca por primera vez la facultad que considerábamos exclusivamente humana:

la capacidad de pensar, crear y razonar.

Ese temor se divide en varios frentes muy concretos:

La incertidumbre laboral y la obsolescencia

Existe un miedo real a la pérdida masiva de........

© Aporrea