¿La urgencia por alcanzar el liderazgo tecnológico en inteligencia artificial justifica asumir mayores riesgos de seguridad, incluso cuando estos podrían tener consecuencias a escala planetaria?

Neil Postman (1931-2003), destacado medioecologista estadunidense, sostuvo que todas las tecnologías simultáneamente producen beneficios y perjuicios. Por ello, ninguna innovación debería evaluarse sólo por sus ventajas, sino también por los costos sociales, culturales y políticos que puede generar.

Análisis, contexto y hechos. Da clic y síguenos en Google Noticias

Postman advertía que, en determinados casos, las desventajas de una tecnología pueden llegar a superar los beneficios que promete o reporta. Ese podría ser, precisamente, el caso de la inteligencia artificial.

La superinteligencia artificial: concepto y alcance

La superinteligencia artificial (ASI, por sus siglas en inglés) designa un concepto hipotético: una forma de inteligencia artificial capaz de superar ampliamente las capacidades cognitivas humanas en casi todos los ámbitos. Su alcance no se limitaría a resolver problemas complejos, también incluiría creatividad, razonamiento estratégico, sabiduría práctica y habilidades sociales.

Una ASI, al superar la inteligencia de sus propios creadores, podría rediseñar su código, optimizar sus arquitecturas de hardware y acelerar de manera autónoma su propio desarrollo. Ese proceso podría desencadenar una “explosión de inteligencia”: un ciclo de mejora continua, cada vez más rápido y difícil de prever.

Además, su capacidad de procesamiento permitiría analizar información y tomar decisiones a velocidades millones de veces superiores a las de un cerebro biológico, operando en escalas temporales prácticamente imperceptibles para los seres humanos.

A diferencia de la inteligencia artificial estrecha, especializada en tareas concretas –como jugar al ajedrez, traducir idiomas o clasificar imágenes–, la ASI podría destacar simultáneamente en múltiples campos. Su desempeño abarcaría áreas como la ciencia, el arte, la estrategia, la comunicación y la comprensión social.

Voces críticas ante el avance de la superinteligencia artificial

Diversos líderes tecnológicos, investigadores y directivos han advertido sobre los riesgos que podría plantear la superinteligencia artificial. Aunque sus enfoques difieren, coinciden en la necesidad de reforzar la seguridad, coordinar respuestas internacionales y, en algunos casos, desacelerar el desarrollo para reducir posibles daños.

Dario Amodei, CEO y cofundador de Anthropic, ha advertido sobre los riesgos de un avance descontrolado de la inteligencia artificial y de los sistemas capaces de mejorar de forma recursiva. Su preocupación central radica en que estos sistemas puedan superar la capacidad humana de comprensión y control; por ello, ha defendido la necesidad de coordinar pausas o límites en la frontera tecnológica para priorizar la seguridad.

Elon Musk, CEO de Tesla y xAI, ha respaldado cartas abiertas y advertencias públicas sobre los riesgos existenciales de la inteligencia artificial. En particular, ha señalado que una superinteligencia sin regulación suficiente podría representar una amenaza directa para la civilización humana.

Geoffrey........

© Proceso