menu_open Columnists
We use cookies to provide some features and experiences in QOSHE

More information  .  Close

El Estado, la Inteligencia Artificial y el estupor

14 0
monday

La escena ocurrida la semana pasada, si se mira rápido, parece una más de esas noticias que ya aprendimos a leer con el molde de la guerra fría tecnológica. Un gobierno invoca la seguridad nacional. Una empresa de inteligencia artificial recibe una orden. Dos modelos son suspendidos. Los extranjeros eran excluidos de una tecnología. La nube, que parecía no tener fronteras, descubre de pronto que sí las tenía. Pero conviene no apurarse.

Porque este hecho puede ser muchos hechos a la vez. Puede ser un episodio de política industrial. Puede ser una advertencia geopolítica. Puede ser un capítulo de la disputa entre Estados Unidos y sus rivales por el control de las tecnologías críticas. Puede ser miedo genuino a la IA. Puede ser una vendetta política. Puede ser un problema de ciberseguridad. Puede ser una señal al mercado. Puede ser, simplemente, el Estado recordándole a una empresa quién manda.

O puede ser todo eso junto.

A fines de la semana pasada, el gobierno de Estados Unidos emitió una directiva de control de exportaciones y ordenó suspender el acceso de cualquier ciudadano extranjero a Fable 5 y Mythos 5, los dos modelos más avanzados de Anthropic. La orden no distinguía demasiado. Valía para extranjeros dentro de Estados Unidos y fuera de Estados Unidos. Valía incluso para empleados extranjeros de la propia compañía. Anthropic, para cumplir, terminó apagando ambos modelos para todos sus clientes. No pudo hacer el corte fino. No pudo separar en tiempo real al usuario permitido del usuario prohibido. Entonces hizo lo único posible: apagó.

Es un detalle importante. El gobierno quiso operar con bisturí, pero la infraestructura respondió como martillo. Para excluir a algunos, se terminó afectando a todos. Ese detalle, que parece técnico, es político.

Pero antes de llegar ahí hay que retroceder algunos meses.

La medida no cae sobre una empresa cualquiera. Cae sobre una compañía que ya estaba en conflicto abierto con el gobierno estadounidense. El episodio de Fable 5 no fue el comienzo de la historia. Fue su segundo acto.

El primero había empezado en febrero.

Entonces, el Pentágono exigió a Anthropic acceso a sus modelos para todo propósito lícito. La frase parece inocente, incluso razonable. ¿Qué podría objetarse a un uso lícito? Pero Anthropic se negó a eliminar dos límites que consideraba centrales: la prohibición de usar su tecnología en armas autónomas letales y la prohibición de usarla en vigilancia masiva de la población.

Ahí se abrió la grieta.

Hasta ese momento Anthropic podía ser presentada como una empresa peculiar dentro del ecosistema de inteligencia artificial. No era solo otra competidora de OpenAI o Google. Había construido parte de su identidad pública alrededor de la seguridad, el alineamiento, la prudencia. Su imagen era la de una empresa que quería correr, sí, pero no como quien no ve el precipicio. Modelos de frontera, pero con límites. Capacidades avanzadas, pero con salvaguardas. Innovación, pero con monitoreo, evaluación, red teaming y una cierta insistencia en que no todo lo técnicamente posible debía transformarse de inmediato en producto.

Esa posición funcionaba bien mientras era una marca, una ética corporativa o una ventaja reputacional. Pero cuando se encontró con el aparato militar, se volvió otra cosa. Se volvió una pregunta de mando.

Anthropic aceptaba trabajar con el gobierno estadounidense, pero quería conservar restricciones sobre ciertos usos. Desde su punto de vista, la cuestión era clara: una inteligencia artificial suficientemente poderosa no podía ser entregada sin condiciones ni siquiera al Estado. Menos aún si podía servir para clasificar poblaciones, acelerar cadenas de decisión militar, hacer vigilancia a escala o reducir la intervención humana en decisiones letales. La empresa no se presentaba como antipatriótica. Se presentaba como responsable.

El Pentágono leyó lo contrario.

Para el Estado militar, una empresa que vende una capacidad estratégica pero conserva autoridad sobre los usos posibles introduce una anomalía. El proveedor deja de ser simplemente proveedor. Se convierte en un actor que puede poner límites dentro de la cadena de mando. El modelo deja de ser una herramienta y se transforma en una frontera contractual dentro del propio aparato estatal. La pregunta ya no era si Anthropic prestaba un buen servicio. La pregunta era quién mandaba sobre la capacidad.

Y ahí se produjo el choque.

Ante la negativa, el Departamento de Defensa designó a Anthropic como riesgo para la cadena de suministro. La etiqueta no era menor. Tradicionalmente, ese lenguaje se ha usado para empresas extranjeras, proveedores sospechosos, compañías vinculadas a adversarios estratégicos. Pero esta vez caía sobre una empresa estadounidense, ubicada en el centro del capitalismo tecnológico norteamericano. La amenaza no venía desde fuera de la cadena. Aparecía dentro de ella.

Luego vino la orden presidencial para que las agencias federales dejaran de usar su tecnología, con un periodo de retiro de seis meses. El presidente lo dijo con el tono de quien no quiere dejar espacio a la ambigüedad: no la necesitamos, no la queremos. Anthropic respondió que ninguna intimidación cambiaría su posición sobre vigilancia y armas autónomas, y llevó el caso a tribunales.

La historia podría haber quedado ahí: una empresa prudente, un gobierno impaciente, una disputa judicial. Pero no quedó ahí.

En cosa de meses llegó Fable.

La obra, si se quiere mantener la imagen teatral, tuvo un descanso breve. Después apareció el segundo acto, y el segundo acto era mucho más delicado, porque ya no trataba solo de contratos militares. Trataba de la naturaleza misma de la inteligencia artificial de frontera.

Anthropic lanzó Fable 5 como algo más que una actualización. Lo presentó como un salto. Un modelo capaz de sostener tareas largas, programar con autonomía, trabajar con millones de tokens, operar en ingeniería de software, análisis financiero, visión, memoria y ciencias de la vida. No era solamente un sistema que respondía mejor. Era un sistema que podía permanecer más tiempo dentro de una tarea, corregirse, llevar notas propias, avanzar por etapas, traducir instrucciones generales en cadenas de acción.

Ese detalle lo cambia todo.

En las primeras generaciones de IA generativa, el modelo parecía una máquina de respuesta. El usuario preguntaba y el sistema contestaba. El riesgo se imaginaba como riesgo de contenido: que dijera algo falso, tóxico, ilegal, dañino o peligroso. Pero con los modelos más recientes la unidad de análisis deja de ser la respuesta. La unidad de análisis empieza a ser la tarea.

Y una tarea puede durar horas. Puede requerir lectura de código, simulaciones, ensayo, corrección, búsqueda, planificación, uso de herramientas, producción de documentos, comparación de hipótesis, detección de fallas. La IA deja de parecerse al oráculo que responde desde una nube y empieza a parecerse a un operador que acompaña procesos. No sustituye solamente texto humano. Sustituye tramos de agencia humana.

Fable 5........

© BioBioChile