Los empresarios que sueñan con destruir el mundo

¿Qué clase de industria puede permitirse que los principales directores, ejecutivos y propietarios de empresas presuman que la tecnología que venden es un riesgo existencial para la humanidad?

“Estas tecnologías son un peligro para la sociedad”, declaró Alex Karp, director ejecutivo de Palantir; también dijo: “No sé cómo decirle a los americanos: ‘te vamos a quitar tu trabajo, vamos a destrozar tu capacidad de tener dinero y poder’”. “El prospecto de robots asesinos aniquilando a la humanidad es de un 20%”, según Elon Musk, presidente de Tesla, X y más empresas. Sam Altman, el director de OpenAI, dijo: “Yo pienso que la Inteligencia Artificial muy probablemente nos llevará al fin del mundo, pero mientras tanto se crearán grandes empresas con excelente aprendizaje maquinal”. Darío Amodei, el director de Anthropic, piensa que hay un “25% de probabilidad de que las cosas salgan muy muy mal, por lo que hay que hacer que la gente se adapte cuanto antes a usar IA y así aprender cómo crear empleos más rápido de lo que los destruimos”. Daniel Kokotajlo, de AI Futures Project, dijo al respecto del uso de inteligencia artificial: “Hay un 70% de probabilidades de que todos los humanos mueran o algo similar”.

Hay algo grotesco y fascinante en la manera en que estos hombres se han apropiado de los relatos precautorios de Frankenstein, de Mary Shelley; HAL9000, de 2001 odisea del espacio; Mother, de Alien, y Skynet, de Terminator, entre otros, para alimentar sus fantasías de exterminio. Estas afirmaciones, que en otro lugar y momento serían consideradas amenazas de terrorismo, están por todas partes en internet y más recientemente en todos los medios de comunicación. No se trata de confesiones secretas, comentarios privados, bromas crueles ni conspiraciones insólitas. Son las declaraciones desparpajadas de los “capitanes de la industria de alta tecnología”, que las lanzan mientras exprimen cantidades obscenas de dinero a sus inversionistas para el desarrollo de modelos autónomos inteligentes.

¿Qué significa esta franqueza nihilista, este apocalipticismo de historieta? La actitud provocadora, fatalista y simplemente grosera de estos ejecutivos multimillonarios parece una estrategia infantil de contradicción, una especie de desafío de nerds que siempre quisieron ser populares y ahora tienen el poder de intimidar, de amenazar con una sonrisa y ser envidiados por sugerir que sus creaciones sean capaces de extinguir a la humanidad por acción o por omisión. Esta actitud arrogante es también común entre ciertos hackers que presumen de sus logros, desafíos, incursiones agresivas y a menudo ilegales en sistemas de cómputo. Asimismo, es un reflejo en el mundo de la alta tecnología de la bravuconería fanática de los ideólogos con inclinaciones malthusianas de extrema derecha. Quizá, más que regulación, lo que estos muchachos necesitan es terapia. Al mismo tiempo algunos de estos ejecutivos piden que sus modelos de vanguardia sean controlados, sancionados y vigilados. Tal vez esto responde a una manera de deslindarse de la responsabilidad de los imprevisibles desarrollos por venir.

La franqueza nihilista de los ejecutivos de la IA es un reflejo de la bravuconería fanática de los ideólogos de extrema derecha

La franqueza nihilista de los ejecutivos de la IA es un reflejo de la bravuconería fanática de los ideólogos de extrema derecha

Aunque es posible que las advertencias de ejecutivos, programadores y expertos sean sinceras al respecto de esta amenaza, los anuncios alarmantes de nuestra inminente extinción o sustitución por mentes digitales también son una forma de promocionar engendros de IA. Muchos de éstos proponen “pacing the frontier”, que significa que los gobiernos, reguladores, investigadores y organizaciones de seguridad desarrollen sus capacidades al menos al ritmo en que avanzan los modelos de IA más potentes, es decir que no se permita que los modelos de vanguardia (frontera) vayan avanzando de manera desbocada sin supervisión. Dado que los modelos pueden ir mejorando por sí mismos con la técnica del recursive self-improvement o automejora recursiva (las IAs van participando en la creación de una mejor versión de sí mismas), su supervisión y entendimiento va quedando fuera de las manos y mentes humanas.

Por el momento, la fe histérica en la IA puede conducir a la destrucción de la economía (con una burbuja que reviente los mercados financieros) y el medioambiente (los centros de datos que sirven a Amazon, Microsoft, Meta, X, OpenAI y Google, entre otras, emiten más carbono para alimentar sus sistemas que algunas naciones). Los promotores de esta moda empujan a las empresas a que despidan a su personal para reemplazarlo por chatbots de IA. Por supuesto, con la promesa de que aparecerán nuevos empleos en campos emergentes aún imaginarios. Mientras, las empresas de IA están en una desbocada carrera contra sus competidores, convencidas de que la supervivencia depende de qué tanto están dispuestos a sacrificar para derrotar a sus rivales (especialmente chinos) en la carrera de la “artificialización del intelecto” o de la “intelectualización de la artificialidad”. Asimismo, estos ejecutivos que tienen lazos con la Casa Blanca y el Pentágono, están chantajeando a políticos en todo el mundo para que se olviden (aún más) de las necesidades de sus comunidades y en vez de eso construyan inmensos centros de datos que agotarán el agua, contaminarán brutalmente y crearán un puñado de trabajos a cambio de vagas promesas de progreso.

La alineación de la inteligencia artificial

Por un lado, los LLM o grandes modelos lingüísticos que generan contenido........

© CTXT