Nombre de usuario o dirección de correo

Al hombre medio se le ha hecho hoy su propia vida menos transparente que lo que la suya era al hombre en otros tiempos. La técnica cuya misión es resolverle al hombre problemas se le ha convertido de pronto en un nuevo y gigantesco problema.

Ortega y Gasset, J. Meditación de la técnica, 1939.

Entender la tecnología, es decir, entender la tecnosfera en la que vivimos, es una exigencia ineludible, entre otras razones porque cada vez es más evidente que el futuro de la tecnología, y muy especialmente el de la inteligencia artificial, va ligado al futuro de la democracia e incluso al futuro de la civilización. La ciencia y la tecnología, como admitía el politólogo Francis Fukuyama, se han convertido en el principal motor de la historia. El filósofo de la tecnología Langdon Winner hizo mucho por convencernos hace décadas de que lejos de ser neutrales, como habitualmente se cree, los artefactos tienen política. Hoy podemos decir con muchos más datos para apoyarlo que los algoritmos tienen política que ha sido inducida en ellos por sus creadores, lo que de forma efectiva es tanto como decir por los directivos de las grandes tecnológicas de Silicon Valley.

Desde los comienzos de la modernidad, y así quedó de manifiesto en las diferentes utopías que se forjaron, el futuro ha sido un asunto de preocupación social y su posible configuración ha marcado las agendas de los movimientos políticos. El problema es que hoy ese futuro es más opaco que nunca. Se ha vuelto aún más impredecible que antes debido al desarrollo de la tecnología, y, pese a ello, nos preocupa sobre todo el medio y el largo plazo, un espacio temporal para el que las deliberaciones democráticas y los análisis científicamente fundados son particularmente miopes. Como cabía esperar en una situación así, la charlatanería ha encontrado un campo propicio y, por ejemplo, empieza a ser difícil tomarse en serio mucho de lo que se dice y se publica sobre el futuro de la IA. Abunda una subliteratura aparentemente especializada que es mejor evitar si no se quiere perder el tiempo con elucubraciones que inducen a la confusión. Por eso, conviene hacer una selección de aquellos textos que puedan ofrecer alguna guía, y, entre los más recientes, he elegido tres que me parecen interesantes acerca del debate en torno a las implicaciones de la IA. Estos tres libros son: Inteligencia artificial. Guía para seres pensantes, de Melanie Mitchell (Capitán Swing), La república tecnológica. Poder duro, pensamiento débil y el futuro de Occidente, de Alexander C. Karp y Nicholas W. Zamiska (Tenos), y Frenar a Silicon Valley, de Gary Marcus (Shackleton Books). Cada uno de ellos representa, como veremos, un aspecto central de ese debate.

Si hemos de hacer caso a lo que se anuncia con insistencia desde los centros de opinión en tecnología, estamos empezando a librar la partida final, el juego en el que ya se decide no solo la transformación sustancial de las condiciones materiales y culturales de nuestra existencia (algo que se da ya por descontado que la IA producirá, aunque la magnitud es asunto controvertido), sino incluso nuestra supervivencia como especie o nuestra conversión en algo muy superior. Si una superinteligencia artificial es creada en las próximas décadas y esta adquiere autonomía en sus fines, ya no podrá ser controlada por ningún ser humano y la disparidad que cabe esperar entre los fines que ella desarrolle autónomamente y los de nuestra especie será tal que esto conduciría casi con seguridad a nuestra extinción. El asunto así planteado es de tal gravedad que no es extraño que se haya extendido la ansiedad por saber si hay base sólida para aceptar estas ideas o si se trata de un catastrofismo infundado, y de ahí que proliferen los artículos, los libros y las opiniones sobre el asunto. Lo cierto es que la inquietud crece en la población y, según las encuestas, cada vez hay más recelos entre los ciudadanos, aunque no solo por estas razones, ante el despliegue de la IA en la vida cotidiana. Cunde sobre todo el miedo al deterioro del mercado laboral, de nuestras condiciones de vida y el miedo al reemplazo. Según alguna encuesta que cita el libro de Marcus (p. 188), el 68% de los encuestados consideró que la IA debería ser tratada como una tecnología “increíblemente poderosa y peligrosa”. Del entusiasmo y la esperanza ligados a las promesas de la IA antes del deep learning, se ha pasado con rapidez al temor y la desconfianza.

El problema no es tanto la IA considerada en sí misma (ni siquiera necesariamente una futura inteligencia artificial general, si es que fuera posible). Tampoco lo es, al menos por el momento, quién y cómo la usa (aunque haya en esto mucho de lo que preocuparse también). Lo que en este momento resulta más inquietante es más bien quiénes y cómo la están gestando y con qué objetivos. Estamos presenciando con nitidez los efectos nocivos de dejar la investigación de vanguardia y las directrices generales del desarrollo tecnológico venidero en las manos de directivos de empresas privadas que han conseguido establecer una fructífera alianza de apoyo mutuo con el poder político ahora establecido en la Casa Blanca, hasta el punto de que Trump les ha cedido a estas empresas el desarrollo de sistemas militares que hasta el momento eran asunto exclusivo del Pentágono. Es como si los misiles nucleares más potentes fueran propiedad de empresas privadas y ellas conservaran el control sobre ellos e incluso tuvieran en sus manos los maletines con los botones nucleares.

Todo parece encaminado a que el futuro de la humanidad lo decidan apenas una decena de personas, los directivos de las grandes compañías de IA, pero resulta que el futuro que nos presentan es el de un más que probable apocalipsis, el de un inevitable final de nuestra especie. Porque hay aquí algo que no conviene descuidar: si pasamos la prueba del riesgo existencial de una superinteligencia artificial no alineada con nuestros valores, el futuro brillante que habría detrás de ese momento, al que llaman “Singularidad”, no será un futuro para nuestra especie, sino para una especie poshumana de la que poco sabemos,........

© Letras Libres