Querida lectora, querido lector:

La semana pasada, Jacob Coxon, un joven ingeniero británico de 27 años que trabajaba en el entrenamiento de modelos de lenguaje, dejó su empleo. Publicamos en CTXT su mensaje, que ha dado la vuelta al mundo, en el que explicaba que las grandes empresas del sector están inmersas “en una carrera directa hacia la creación de una superinteligencia capaz de mejorarse a sí misma”. Según Coxon, quienes construyen estos sistemas creen de verdad que podrían acabar con nosotros antes de que termine la década. Y lo cierto es que Dario Amodei, director general de Anthropic, una de las empresas de IA más importantes del mundo, acaba de pedir que, ante estos peligros, se ralentice su desarrollo. Entre los riesgos que enumera él mismo estaría el de perder el control de los sistemas, ciberataques y bioterrorismo impulsados por la IA. Tenemos un ejemplo reciente que parece sacado de un libro de ciencia ficción: el incidente de OpenAI-Hugging Face, donde un grupo de agentes de IA ha lanzado un ataque informático sin que se les haya pedido, y lo han hecho, además, intentado borrar sus propias huellas.

Cory Doctorow, un experto en tecnología –que os recomiendo–, sostiene que a los dueños de la IA les encanta este relato apocalíptico porque paradójicamente es una buena publicidad. “Si la IA es lo suficientemente poderosa como para destruir el mundo, ¡piensa en cuánto dinero puede generar!”. Según él, las narrativas del dominio de las máquinas sobre los humanos son puro marketing viral e impulsan la burbuja de los LLM –los modelos extensos de lenguaje, una denominación bastante más exacta que lo de “inteligencia”–. Pero resulta muy difícil no alarmarse un poco ante las cosas que están sucediendo.

¿Drones letales dirigidos por IAs autónomas? ¿Pérdida masiva de trabajos? ¿Nueva burbuja financiera? ¿Otra crisis ecológica? Las preguntas caen sobre nuestras cabezas como una tormenta. Y por desgracia, no son miedos infundados. En febrero, la Administración Trump vetó a Anthropic –la desarrolladora de Claude– después de que la empresa se negara a que sus modelos fuesen utilizados para la conducción de armas letales autónomas o la vigilancia masiva –lo que ya está sucediendo a través de otras empresas–. En Estados Unidos se ha despedido a más de cien mil trabajadores este año por culpa de esta tecnología. Sin olvidar que el coste en términos de consumo de energía y agua es una amenaza muy real. Aquí está pasando ya: el proyecto de Meta en Talavera de la Reina requiere de al menos 504,5 millones de litros de agua al año en una comarca castigada por la sequía.

Hay otro fenómeno que no podríamos registrar en el apartado de “peligro de extinción humana”, pero que produce otro tipo de inquietudes, esta vez estilísticas. No sé si os pasa, pero navegando por internet me topo cada vez más con la cadencia de lo redactado por una........

© CTXT