La ciudadanía necesita saber que hay capacidades públicas para anticipar amenazas, exigir información, fiscalizar a estos avances tecnológicos y detener desarrollos cuando la seguridad de las personas esté comprometida.

Muchos hemos visto Terminator, donde una inteligencia artificial llamada Skynet escapa al control humano y decide exterminar a la humanidad, o Matrix, donde las máquinas dominan el mundo y mantienen a las personas atrapadas en una realidad simulada. Durante años miramos esas películas como ciencia ficción.

Las recientes advertencias de Jacob Coxon, investigador que renunció a OpenAI y Anthropic, trajeron ese temor a la discusión pública. El cine había imaginado el problema de crear algo que después no podamos controlar, aunque eso no significa que sus historias estén destinadas a cumplirse.

Cuando una advertencia conecta con imágenes tan conocidas, el miedo puede adelantarse a la comprensión. ¿Ese temor nos ayudará a exigir explicaciones y controles, o terminará haciendo que entreguemos todavía más poder a quienes prometen protegernos?

La advertencia de Coxon apunta al peligro de desarrollar una inteligencia artificial capaz de mejorarse a sí misma hasta superar nuestra capacidad de control. En términos simples, plantea un escenario en el que los sistemas contribuyan a crear versiones cada vez más capaces, mientras las personas pierden la posibilidad de comprender y supervisar ese proceso.

Su advertencia es extrema. Sostiene que podría poner en riesgo la supervivencia humana antes de que termine esta década. Es un escenario de riesgo, cuya probabilidad y horizonte temporal requieren examen. Su argumento abre una pregunta imperiosa: ¿estamos creando capacidades donde la humanidad es incapaz de gobernar?

A esta alerta se sumaron los llamados de los oligarcas tecnológicos de esta industria. Dario Amodei, CEO de Anthropic, la empresa creadora de Claude, advierte........

© el mostrador