El falso dilema de la IA: entre utop-IA y distop-IA
Podemos maravillarnos con una tecnología capaz de acelerar la ciencia, mejorar la medicina, aumentar la productividad y ampliar el conocimiento y, al mismo tiempo, exigir medidas y regulaciones efectivas para contener sus consecuencias más peligrosas.
La IA es una “tecnología de doble uso” que puede emplearse tanto para fines beneficiosos como para fines dañinos. En esos casos la característica esencial no está necesariamente en la tecnología misma, sino en el uso que se haga de ella.
Algunos ejemplos son la energía nuclear, la biotecnología y la edición genética.
Con la inteligencia artificial ocurre algo parecido: de las mismas capacidades que hacen extraordinarios sus beneficios, también nacen y crecen sus riesgos.
No siempre es posible ni conveniente controlar el riesgo prohibiendo la tecnología, porque hacerlo también eliminaría enormes beneficios.
¿Debemos permitir o prohibir la IA?
Pienso que claramente no hay que prohibirla, sino aprovecharla bien.
La cuestión pasa entonces a otra pregunta más compleja:
¿Cómo conservamos sus enormes beneficios sin que sus propias capacidades causen daño ni se utilicen para causarlo?
En los últimos meses se han registrado avances, fallas y usos indebidos de la IA que han generado gran preocupación. Por ejemplo, agentes de IA muy autónomos que escaparon del control humano; modelos de IA con “mejora recursiva” que pueden ampliar, mejorar o reorganizar por sí mismos sus capacidades; la increíble velocidad de desarrollo de la IA se........
